您所在的位置: > 主頁 > 成都大訊網 > 企業 > 正文
騰訊的秘密部隊,云鸮用AI鑒黃來源: 日期:2019-09-18 14:55:04  閱讀:1

    昏暗的房間里,一個個年輕人面色凝重的對著電腦,他們一遍遍的看著網站上的內容、文字、圖片等,每八秒就要對問題帖子做出“生殺決斷”。

    電腦屏幕里,不時出現血腥自殘、性虐待、恐怖暴亂等內容,這是紀錄片《The Cleaners》中出現的一幕。

    在這部記錄片里,“數字清潔者”——鑒黃師的真實生活被推到了眾人的面前。

    騰訊的秘密部隊,云鸮用AI鑒黃

    揭秘“鑒黃師”職業的紀錄片

    鑒黃師,一份“最幸?!币病白钔纯唷钡墓ぷ?,他們手握互聯網各類內容的“生殺大權”,藏匿在數字浪潮的海底,與網絡中的惡意內容為伴。

    這些惡意內容包含文字、圖片、聲音、視頻等各種形式,“鑒黃”只是其中極小的一部分,除此之外,還有諸如血腥、暴力、變態等挑戰道德底線的內容。

    隨著互聯網平臺各類直播、短視頻、圖文信息的增多,網絡安全治理問題亟待解決。如何快速鑒定出劣質信息并進行處理,成了擺在各大平臺面前的一道考題。

    網絡惡意,“鑒黃”出擊

    “為什么給我推薦的,全是霸道總裁文?”在公開的社交網站上,不時能看到這樣的用戶反饋。

    然而這樣的套路并不稀奇,在微博的信息流,以及部分網站的跳轉鏈接中,經常夾雜著“霸道總裁文”或者“情感漫畫”等低俗網文,利用爽文的套路,誘導大眾付費閱讀。

    如此利用“色情+社交”來進行流量的轉化,有著成熟的信息生產鏈條。據公開報道,此類色情信息從業者月入甚至能高達數萬。

    多年以來,無論政府,還是企業,對互聯網中涉及淫穢、暴力、血腥等劣質內容的整頓從未停歇,但內容亂象卻依然屢打不止。

    騰訊的秘密部隊,云鸮用AI鑒黃

    網絡世界中的不良信息

    于是,“內容鑒定員”這一工種應運而生。以Facebook為例,單在2018年就設有15,000名鑒定員來負責篩選和刪除攻擊性內容,并于18年底再增加了5,000人。

    至于國內的企業,早在2014年,百度、騰訊等10多家互聯網公司組成的“安全聯盟”就曾對外宣布,公開招聘“首席鑒定官”,大幅增加人工鑒定的規模。

    縱觀看來,“內容鑒定員”的出現能及時卻短暫地填補了劣質信息鑒定和查漏的需求空缺。在日趨復雜的網絡環境中,面對億級的信息量,且隱蔽性不斷升級的不良信息,人工作業精準度有限等弊端日漸凸顯。此外,企業在內容鑒定方面的成本、效果、技術上,遇到的挑戰維度也在不斷升級。

    此時,AI技術的出現,為內容鑒定帶來了新的動能。

    騰訊的秘密部隊,云鸮用AI鑒黃

    Facebook曾招聘大量的內容審核員

    AI助力,“鑒黃”升級

    AI鑒黃的邏輯看起來并不復雜:AI通過深度學習技術,再經過大規模的樣本訓練,便能基本形成監測識別夾雜的不規范信息的能力。但實際上,內容鑒定對算法精度、樣本量都有很高要求,需要大量的技術投入和持續的機器學習,在內容鑒定的專業度上也有較高門檻。

    在市場的需求和技術的驅力下,利用AI來進行內容鑒定服務的產業鏈正逐漸成型。作為國內互聯網的領軍企業,騰訊也看到了趨勢,并推出其自研的智能鑒黃產品——騰訊云鸮。

    “很多企業會以AI能力為基礎,做相關產品的開發,首先它可以改變過去更多依靠人工鑒定的工作模式,對企業來說,也意味更少的成本,更高的效率去發現和處理劣質信息?!?/span>騰訊云鸮產品團隊告訴鋅財經。

    騰訊的秘密部隊,云鸮用AI鑒黃

    AI可以輔助內容鑒定

    2017年,騰訊提出“AI in all”戰略,即讓AI無處不在。在消費互聯網領域,騰訊AI已在內容、社交、游戲等過百種產品中落地。同時,在產業互聯網領域,騰訊AI也已落地醫療、零售、金融、安防、教育、工業、出行等多個產業。

    由于有著多領域、長時間的AI技術沉淀,騰訊自17年起,便開始嘗試利用自身強大的AI技術打造騰訊云鸮產品,來解決鑒黃等內容安全問題。

    據云鸮團隊介紹,產品在19年年初已經趨向成熟。云鸮憑借先進的深度學習模型算法,沉淀了騰訊多年的內容安全對抗經驗,現已具備全場景AI識別能力,可以瞬間解析音視圖文等各類媒介內容,識別其中的色情、低俗、謾罵、垃圾廣告等不良信息,全面保障產品內容的安全。

    在內容安全的鑒黃領域,云鸮獨創了許多新的技術。同時還能克服唱歌、哭泣聲甚至正常ASMR的干擾。圖片鑒黃能夠區分性感和色情的分界,并從多個維度進行判斷以及給出相應標簽,對于大尺度圖片還能夠判斷是否來自藝術名畫、動漫亦或是惡搞。即使面對正常圖像和文字結合的拼圖招嫖圖片,云鸮也有一套成熟的算法和流程機制能夠快速判斷,同時也會結合OCR技術,識別圖文中的黑灰產行業黑話。

    騰訊的秘密部隊,云鸮用AI鑒黃

    騰訊云鸮產品

    目前,云鸮的AI技術已在多種業務場景中得以廣泛應用。云鸮也通過騰訊安全天御和微信開放平臺面向客戶全面開放,致力于為游戲、社交、直播、短視頻等行業提供一站式內容安全解決方案。客戶可以通過騰訊安全天御,小程序開發者通過微信開放平臺,進行簡單的部署對接即可使用從而幫助企業升級自身防范規避內容風險,提高產品內容安全性。

    隨著云鸮內容安全產品的普及應用,能極大地提升企業整體內容鑒定的效率,可以做到24小時不限量識別,從而幫助企業大幅優化人力資源成本;同時能以極高的精確率和召回率,為客戶平臺產品全面提升健康度。目前已經有超過5萬的客戶接入云鸮使用。


    (正文已結束)

    免責聲明及提醒:此文內容為本網所轉載企業宣傳資訊,該相關信息僅為宣傳及傳遞更多信息之目的,不代表本網站觀點,文章真實性請瀏覽者慎重核實!任何投資加盟均有風險,提醒廣大民眾投資需謹慎!

浙江11选5推荐任四 福建快3开奖软件 甘肃十一选五走势图甘 手机股票行情软件下载 十一选五辽宁一定牛 复式连肖连码图 东方6+1开奖结果 浙江11选五出球顺序 财牛配资 河南22选5哪个台开奖 正规的炒股配资