（騰訊云首批通過試點評估測試證書）
國內首批通過可信云內容安全認證，累計達成21項認證記錄
為落地《中華人民共和國網(wǎng)絡安全法》中對用戶發(fā)布信息的管理要求，云計算標準和開源推進委員會云安全工作組根據(jù)”嚴守紅線”的安全方針，組織電信運營商、云計算服務提供商、安全廠商的相關技術專家，編制并發(fā)布了”可信云”系列標準《基于云計算的業(yè)務安全風險解決方案技術要求 第1部分：內容安全》。
本次會議上，中國信息通信研究院云大所云安全專家王敬宇對該標準進行了解讀，該標準規(guī)定了內容安全解決方案的功能要求、性能要求、自身安全功能要求，云計算服務提供商和安全廠商的內容安全解決方案，其在功能設計、產(chǎn)品研制、能力評估等方面均可參照此標準執(zhí)行。
為了將標準落到實處，中國信息通信研究院于2018年11月開展了國內首個云計算行業(yè)的內容安全解決方案評估，騰訊云等三家廠商作為首批企業(yè)參與了此次評估，并最終通過測試。
據(jù)中國信息通信研究院云大所何友斌介紹，為了確保評估質量，評估專家精心準備了多樣化的文本、圖片、音頻、視頻測試樣本，包含涉黃、血腥、暴恐等內容大類，并對測樣本進行了復雜處理。評估過程中發(fā)現(xiàn)，騰訊云等廠商主要使用深度學習技術訓練監(jiān)測模型，并結合已知違規(guī)樣本的分類標簽技術對海量數(shù)據(jù)戶進行實時監(jiān)測，在節(jié)約人工審核成本的同時，大幅度提高了違規(guī)內容識別的準確率和查全率，并有效降低了誤判率。本次評估，客觀、真實地反映解決方案的水平，為企業(yè)選擇和部署內容安全解決方案提供值得信賴的參考和依據(jù)。
智能AI+人工審核 騰訊云破解“鑒黃界最大難題”
騰訊云安全策略專家周耀輝也在大會現(xiàn)場分享了騰訊云內容安全的策略：基于四大場景的六類違規(guī)內容識別，通過“智能AI+人工審核”一站式解決目前網(wǎng)絡中違規(guī)內容的問題。而正是在這套策略的指導下，騰訊云解決了“鑒黃界公認的最大難題”——音頻鑒黃。
對于網(wǎng)絡上傳播的色情惡意內容，圖像鑒黃技術很好的打擊了大部分色情圖像和視頻內容，但在一些短視頻、直播等場景中，還有一些色情內容以音頻方式傳播，用以規(guī)避圖像維度的打擊。尤其是音頻的信噪低、時長短、信道復雜等因素，進一步加劇了內容審核者的挑戰(zhàn)。
對此，騰訊云天御在文本、圖片鑒黃的基礎上，研發(fā)了基于音頻的鑒黃系統(tǒng)，讓騰訊云的整套鑒黃解決方案更具突破性。其中，在針對海量正負樣本的訓練上，除了應用深度學習模型之外，騰訊云天御還針對線上的識別數(shù)據(jù)持續(xù)進行人工抽檢覆蓋和漏過情況，并將正負樣本進行標注用于系統(tǒng)優(yōu)化，讓音頻鑒黃系統(tǒng)更智能。目前該系統(tǒng)已在騰訊云的點播、直播等業(yè)務中上線使用，進一步提高色情內容檢出率。
暴力、血腥、黃賭毒不良社會導向違規(guī)內容的傳播，嚴重影響網(wǎng)絡環(huán)境的清朗健康發(fā)展，本次可信云標準的發(fā)布以及首批通過評估認證企業(yè)的公布，將有效促進內容安全行業(yè)向更高的標準提升，同時也將對整個產(chǎn)業(yè)生態(tài)的有序發(fā)展起到積極的推動作用。
