面對政策法規、用戶體驗，直播內容安全危機重重

饒曉艷認為，包括直播在內的所有互聯網UGC產品的內容運營風險主要來自于兩方面：一是政策法規，目前很多國家法規里面已經明確了對互聯網產品中相關內容的要求——彈幕必須是要做到先審后發;直播間必須有水印標識;直播內容必須要有二十四小時的審核監管;表演者必須實名注冊等。

二是涉及到用戶體驗，“現在大家實際看到的云音樂評論是特別有故事性，或者經常特別耐看，其實我們每天從云音樂的原創歌單或者評論區刪掉的內容也非常多”，饒曉艷說，“不同的粉絲群經常也會出現掐架或者撕逼的狀態，分分鐘人身攻擊到比較嚴重的程度，這些情況都需要過濾和處理”。

從直播類產品痛點案例來看，目前直播類碰到的內容監管有四個比較明顯的難點：首先是彈幕聊天室的實時審核;然后是色情審核，現在仍然有秀場類的主播通過衣服脫下去再馬上穿上的秒錄行為打“擦邊球”，如果監管不及時，很難抓到;再次是用戶突發通過平臺直播一個群體事件或者不良事件，平臺需要擔責;最后則是成本和技術方面的持續積累和投入負擔過重。

網易云安全(易盾)如何在實戰中解決內容安全問題?

面對專業黑產、政策法規規范、用戶體驗差等風險，饒曉艷解釋說，網易云安全(易盾)在給內部產品或者外部產品提供內容安全服務時，首先會從文本、圖片、視頻和語音等方面入手，來一次全面的檢測;在為做直播類產品提供服務時，網易云安全(易盾)還會從彈幕實時過濾、用戶頭像/昵稱過濾、聊天區文本/圖片過濾、直播間電視墻監控等方面來做內容安全解決方案。