IT之家 2 月 26 日消息,抖音官方本周發布公告宣布多舉措預防網暴,首家上線“評論發文警示”等功能。
公告顯示,抖音全面升級平臺預防網暴能力,為用戶提供了 8 項功能,全方位管理評論和私信。其中,針對不當私信,新上線“風險提醒”和“負向內容過濾”等功能;針對已發送的不當評論,即將上線國內首個“發文警示”功能,進行攔截。
數據顯示,抖音每天產生 8 億條評論,其中,被投訴、舉報并最終處理的不當評論中,“謾罵,人身攻擊”占比 32.79%。
IT之家了解到,針對評論,抖音即將上線國內首個“發文警示”功能。該功能下,若系統模型判定已經發送的評論存在問題,則會推送彈窗提醒,建議發送者重新編輯,去除不當言論。如果發送者堅持發送,則該條評論不會在評論區出現。近期,該功能已開啟小范圍測試。
此前,抖音已上線“評論權限分層管理”“關鍵詞屏蔽”“評論精選”三項功能。在“評論權限分層管理”下,用戶可通過“權限設置-高級設置-誰可以評論”設置評論權限,根據自身需求從“所有人”“僅粉絲”“僅互關朋友”“僅自己”四個選項中,自主選取誰可以對自己發布的內容進行評論。
私信方面,抖音新增“用戶風險提醒”和“負向內容過濾”兩大功能。在“用戶風險提醒”功能下,當系統模型識別發現,用戶剛接收的陌生人私信存在風險時,會對用戶推送彈窗,提示其“是否認識該用戶”。如果用戶選擇“不認識”,系統會再次彈窗,提示用戶可進行“拉黑、舉報、移除粉絲”等操作。目前,該功能日均會對 25 萬次會話發出風險提示。
在“負向內容過濾”功能下,當模型判定用戶收到的私信消息為“謾罵或騷擾”,該消息會被直接放入“陌生人盒子 — 垃圾信息”中。此外,抖音還推出了“心情暖寶寶”助手,可以根據用戶內容情緒傾向,通過消息對話的交互方式,緩解用戶負向情緒。
“掌”握科技鮮聞 (微信搜索techsina或掃描左側二維碼關注)