直播很受歡迎，直播也很受爭議，除了脫衣服、造謠、造假炒作外，直播平臺涌入了更可怕的暴力、謀殺、自殺內容。

　　2017年，Facebook度過了一個血腥的復活節，一個男子在上面直播開槍殺人。

　　發生了惡劣的直播殺人事件后，各大在線媒體平臺都在開發“暴力標記算法”，Facebook近日宣布要研發AI芯片來發現、標記、過濾此類直播視頻。

　　社交媒體公司自己造芯片

　　升級軟件已經不能滿足Facebook 的需求，更強大的算法需要定制化AI芯片來支撐。雖然有大量的公司（英特爾，三星，Nvidia等）在開發節能芯片，但Facebook 決定自己來。Facebook的首席人工智能科學家Yann LeCun表示：越來越多的智能手機配備了功能強大的芯片，可讓用戶直接在其設備上利用語音識別，增強和虛擬現實以及圖像和視頻處理功能。這種趨勢將會增長，促使更多以軟件為根本的公司考慮硬件。

　　Facebook最近宣布可以通過主動上傳裸照，生成數字指紋（digital footprint），AI 通過識別數字指紋禁止其他人上傳，以這個系統打擊“色情報復”。

　　與裸露照片相比，暴力視頻的識別則困難許多。AI難以辨別內容是在傳播暴力、有自殺傾向，還是僅僅在開玩笑。除了搜索信息，AI需要具備結合語境分析內容的能力。

▲圖片來源：Fortune

　　目前的監控不及時，而且很耗能

　　Facebook目前的監控系統由AI系統和人類版主組成，在運用傳統的算法下，這種監控方式需要耗費大量的能源和人力成本。

　　視頻網站的審核力度和審核時間難以取得平衡。在目前的條件下，加大審核力度必然會減慢審核的速度，審核時間過長會導致用戶流失。假設一個博主上傳視頻審核需要三天，會惹來粉絲的強烈控訴，嚴重影響博主的收入。

　　要打擊暴力犯罪，內容審核速度更至關重要。在“復活節屠殺”事件中，兇手在直播殺人前曾經發布“預告視頻”，但該視頻并沒有引起重視，他的暴行沒能被及時發現并制止。

　　“殺人視頻”在Facebook上逗留超過兩小時，足夠被下載并上傳到其他平臺，擴大犯罪的傳播范圍。

▲黃子華給想自殺者的忠告，圖片來源：嗶哩嗶哩

　　2018年5月20日，一個女生在微博預告全家自殺，引起網友關注，最終被搶救回來。這不是微博出現的第一封遺書，網絡時代生長起來的這一代人，遺書也喜歡“留”在網絡上。

　　雖然這種對待生命的方式不可取，其中也不乏“自殺惡作劇”和兒戲的遺書，但這種“自殺預告”也給自殺者帶來被搶救的機會，重要的是及時被發現。

　　擁有更強“暴力標記算法”的AI版主是未來的趨勢，不僅能及時報告問題，阻止暴力和自殺行為，還能降低能源和人力成本。

▲圖片來源：Innovation Village

　　2016年底我國的《互聯網直播服務管理規定》出臺，平臺配合相關部門進行直播內容整治，但從目前的情況，色情、暴力、謠言、詐騙等內容還沒徹底從直播平臺消失。

　　2017年10月26日，電競選手“死亡宣告”在游戲直播中“疑似”毆打女友，被警方以涉嫌暴力傷害帶回調查，后英雄聯盟官方決定對他禁賽20個月處分，且多個直播平臺封禁他的賬號。

　　網絡上看到暴力行為不會比現實生活多，但暴力通過直播傳播，會帶來更廣的社會影響。在直播中施暴，死亡宣告”宣告”了自己職業生涯的死亡。

▲死亡宣告直播畫面，圖片來源：TechWeb

　　最近又發生了直播籌款被網友質疑的“眼癌女童小鳳雅事件”，直播平臺打賞牽扯進了“籌款真實性”的社會輿論中。

　　土味直播有點可愛，但暴力直播很可憎，“兒戲的”自殺直播消耗網友的善心，直播內容監管還有很多功課要做，無論是制度還是監管技術。

責任編輯：孟然