CTI論壇(ctiforum)8月19日消息(記者 李文杰):8月19日,國內(nèi)最大的即時通訊云服務(wù)商融云宣布圖片鑒黃功能正式上線。融云開發(fā)者可以根據(jù)自身需求選擇開通此功能,用計算機替代人工對黃色圖片的審核服務(wù)。融云此舉不僅開創(chuàng)了即時通訊鑒黃新方式,也把即時通訊鑒黃帶進了云時代。
融云圖片審核功能上線
隨著移動應(yīng)用社交場景運營的深入,即時通訊功能一方面提升 APP 活躍度,另一方面拉近了用戶之間的溝通,不過,這些社交類平臺卻無意間為“色情信息”提供了傳播的溫床。
互聯(lián)網(wǎng)業(yè)內(nèi)人士認為,在社交類產(chǎn)品中,用戶注冊、消息內(nèi)容等環(huán)節(jié)中都有可能存在色情圖片信息。而色情圖片不僅沖擊著 APP 的健康發(fā)展,也存在著安全風險,如何高效準確地鑒別和剔除這些淫穢色情信息成了一項令開發(fā)者頭疼的事情。
為了避免黃色信息的傳播,雖然市場上之前采取了諸如用戶舉報、人工鑒黃等方式,但這些方式都有不同程度的局限。比如用戶舉報,不少 App 都開通了舉報功能。如有色情類頭像、招嫖等方面的投訴,用戶可通過舉報功能向客服進行投訴,待客服核實后即會對被舉報帳號進行使用限制。但從目前實踐情況來看,這個方式收效甚微。
而人工鑒黃不僅成本高還往往存在工作難度,隨著色情信息量日益增多,人工鑒黃的速度和質(zhì)量都在逐漸降低,遺漏和判斷失誤在所難免。而且由于黃色圖片強大的視覺沖擊,鑒黃師們很難長時間連續(xù)工作。
鑒于此,融云攜手專注于圖像識別技術(shù)的圖普科技推出了圖片鑒黃服務(wù),可以幫助融云用戶有效判斷圖片是屬于色情還是正常。該服務(wù)是通過基于深度學習的人工智能技術(shù)來實現(xiàn)圖像識別的,從而用計算機替代人工對黃色圖片的審核服務(wù),有相關(guān)鑒定需求的融云開發(fā)者開通此功能后,系統(tǒng)會自動識別不符合要求的圖片,將其自動刪除,對于系統(tǒng)無法自動判斷的圖片,也支持手動復審。
與傳統(tǒng)鑒黃方式相比,融云本次推出的圖片審核服務(wù)有如下幾個很明顯的優(yōu)勢。
1.成本降低的同時,效率大大提高。
2.準確率高:與企業(yè)自研發(fā)的鑒黃工具相比,融云提供的鑒黃服務(wù)中不存在圖片樣本缺乏,也不存在準確度需要長期訓練才能達到可用標準等問題。在正式接入融云之前,圖普科技的鑒黃服務(wù)已成功接入迅雷、酷狗等多個平臺,樣本庫中的圖片樣本已積累過億。此外,經(jīng)過大量的實踐很好地訓練了圖像識別模型,這使得圖普科技的圖片鑒黃服務(wù)的準確度達到99.5%。
3.全天工作:由于工作內(nèi)容的特殊性,人工鑒黃很難長時間連續(xù)工作,而機器鑒黃可以做到7*24小時不眠不休。
一直以來,融云作為即時通訊云的引領(lǐng)者,不僅為開發(fā)者提供穩(wěn)定、不丟消息的業(yè)內(nèi)性能最好的 IM 云服務(wù),還在此基礎(chǔ)上不斷擴展新功能,滿足開發(fā)者的各種需求。融云是目前業(yè)內(nèi)唯一一家提供即時通訊云圖片鑒黃服務(wù)的服務(wù)商。正是憑借性能好,功能多,融云獲得了包括工商銀行、百姓網(wǎng)、汽車之家、易車、太平洋汽車、秘密、臉萌等知名 APP 的青睞。截至2015年上半年統(tǒng)計,入駐開發(fā)者超過40,000家,接入應(yīng)用數(shù)超過36000款,接入融云 SDK 用戶總數(shù)3.42億。
目前,融云即時通訊云圖片審核(鑒黃)功能已經(jīng)正式上線。