原標題：網絡音視頻信息服務提供者應建辟謠機制

ZAO的視頻素材和表情素材。律師認為這當中ZAO和用戶均存在侵權風險。 資料圖片/APP截圖

　　昨日，國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局聯合發布《網絡音視頻信息服務管理規定》，提出網絡音視頻信息服務提供者和使用者利用基于深度學習、虛擬現實等新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識。規定自2020年1月1日起施行。

　　新京報訊 昨日，國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局發布《網絡音視頻信息服務管理規定》。

　　《規定》提出，國家鼓勵和指導互聯網行業組織加強行業自律，建立健全網絡音視頻信息服務行業標準和行業準則，推動網絡音視頻信息服務行業信用體系建設。

　　網絡音視頻信息服務提供者應建立健全信息安全管理等制度

　　規定明確，網絡音視頻信息服務提供者應當依法取得法律、行政法規規定的相關資質；應當建立健全用戶注冊、信息發布審核、信息安全管理等制度。任何組織和個人不得利用網絡音視頻信息服務以及相關信息技術從事法律法規禁止的活動，侵害他人合法權益。

　　規定提出，網絡音視頻信息服務提供者基于新技術新應用上線具有媒體屬性或者社會動員功能的音視頻信息服務，或者調整增設相關功能的，應當按照國家有關規定開展安全評估；網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識，不得利用基于深度學習、虛擬現實等新技術新應用制作、發布、傳播虛假新聞信息。

　　網絡音視頻信息服務提供者應建立健全辟謠機制

　　網絡音視頻信息服務提供者應當部署應用違法違規音視頻以及非真實音視頻鑒別技術，發現音視頻信息服務使用者制作、發布、傳播法律法規禁止的信息內容的，應當依法依約停止傳輸該信息，采取消除等處置措施；網絡音視頻信息服務提供者應當建立健全辟謠機制，發現網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等虛假圖像、音視頻生成技術制作、發布、傳播謠言的，應當及時采取相應的辟謠措施，并將相關信息報網信、文化和旅游、廣播電視等部門備案。

　　規定明確，網絡音視頻信息服務提供者和網絡音視頻信息服務使用者違反規定的，由網信、文化和旅游、廣播電視等部門依照《中華人民共和國網絡安全法》《互聯網信息服務管理辦法》《互聯網新聞信息服務管理規定》《互聯網文化管理暫行規定》《互聯網視聽節目服務管理規定》等相關法律法規規定處理；構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

　　國家互聯網信息辦公室有關負責人表示，出臺規定，旨在促進網絡音視頻信息服務健康有序發展，保護公民、法人和其他組織的合法權益，維護國家安全和公共利益。

　　解讀1 為何出臺規定？

　　網絡音視頻平臺利用新技術亟待規范

　　談及此次出臺規定的背景，國家網信辦有關負責人表示，出臺《規定》是促進網絡音視頻信息服務活動健康有序發展的需要。

　　上述負責人指出，當前，網絡音視頻信息服務迅速發展，用戶規模不斷壯大。有關數據顯示，國內網絡音視頻行業正在持續高速發展，當前，我國網絡音樂用戶規模已達6.08億，網絡視頻用戶規模已達7.59億。

　　但與此同時，也帶來了傳播違法和不良信息、侵犯人民群眾合法權益等風險隱患，特別是隨著“深度偽造”等新技術新應用在網絡音視頻領域的運用，這些風險進一步集聚、放大，可能被利用從事危害國家安全、破壞社會穩定、擾亂社會秩序、侵犯他人合法權益等法律法規禁止的活動，造成政治安全風險和國家安全、公共安全風險，對社會穩定造成不良影響。

　　因此，亟須出臺有針對性的管理規定，明確網絡音視頻信息服務提供者及其技術支持的主體的信息內容安全管理責任，規范網絡音視頻信息服務提供者關于利用深度學習、虛擬現實等新技術新應用的管理要求，為網絡音視頻信息服務及其相關技術的提供、使用、管理等提供有效的依據。

　　解讀2 誰來監督檢查？

　　各級網信、廣電等部門應建日常監督檢查制度

　　針對現實中網絡音視頻平臺出現違規行為由誰來監管的問題，規定也給出了答案。

　　國家網信辦負責人指出，規定明確了監督檢查要求和執法協助要求。各級網信、文化和旅游、廣播電視等部門應當建立日常監督檢查和定期檢查相結合的監督管理制度，網絡音視頻信息服務提供者應當配合監管部門開展執法工作。

　　規定還明確了法律責任，網絡音視頻信息服務提供者和網絡音視頻信息服務使用者違反本規定的，由網信、文化和旅游、廣播電視等部門依照相關法律法規規定處理。

　　此外，規定還提出，國家鼓勵和指導互聯網行業組織加強行業自律，建立健全網絡音視頻信息服務行業標準和行業準則，推動網絡音視頻信息服務行業信用體系建設，督促網絡音視頻信息服務提供者依法提供服務、接受社會監督，提高網絡音視頻信息服務從業人員職業素養，促進行業健康有序發展。

　　■ 案例

　　ZAO軟件AI換臉被疑泄露隱私

　　今年9月，一款名為“ZAO”的手機軟件突然流行起來，網友只需要上傳一張正面照，就可以用“AI換臉”技術把照片制作成網絡熱門表情包，或是替換經典電影片段中主角的臉，制作短視頻。

　　然而，很快有網友質疑“ZAO”用戶協議中的“不可撤銷、永久，可轉授權”等內容，可能存在隱私安全方面的問題。9月3日，工信部約談該軟件相關負責人，要求其嚴格按照國家法律法規以及相關主管部門要求，進行自查整改。

　　還有不少網友擔心，在“AI換臉”技術的加持下，如果個人照片被擅自挪作他用會帶來風險。

　　這樣的擔心并非空穴來風。據媒體報道，2017年12月，一個名為“深度偽造”（deepfakes）的用戶在美國論壇Reddit上發布了多段色情視頻，不同的是，他讓電腦學習好萊塢女明星的圖像資料，然后把女明星的面部移植到色情片女主角臉上，近乎完美地實現了動態換臉，這引發了大量討論和抨擊，最后以賬號被封告終。

　　國內也存在利用AI換臉技術制作淫穢視頻的產業鏈。據新京報此前報道，隨著AI技術走紅以及門檻降低，售賣明星換臉的淫穢視頻已經成為一門地下生意。百度貼吧中部分標榜“換臉+女明星姓名”的發帖者，售賣通過AI換臉技術合成的視頻，閑魚上還有賣家提供“定制換臉”服務，買家提供明星或私人照片，賣家即可將淫穢視頻中的主角“移花接木”。

　　新京報記者 許雯

責任編輯：覃肄靈