財(cái)聯(lián)社2月6日訊（編輯 史正丞）根據(jù)不完全統(tǒng)計(jì)，2024年將有50多個國家、半個地球的人將面對政府改選。與此同時，隨著AIGC技術(shù)最新一輪的大爆發(fā)，AI技術(shù)對互聯(lián)網(wǎng)輿論生態(tài)的威脅也達(dá)到前所未有的高度。近些日子“冒牌拜登來電”、知名女星DeepFake照片等事件，都引發(fā)國際輿論的強(qiáng)烈擔(dān)憂。

　　在整件事情變得愈發(fā)不可控之前，社交媒體平臺臉書、Instagram和Threads決定做一些嘗試，通過識別并標(biāo)記平臺上的AI內(nèi)容，將社交媒體平臺上的AI生成內(nèi)容和真實(shí)生活區(qū)分開來。

（來源：Meta Blog）

　　識別、檢測和標(biāo)記

　　Meta表示，在未來幾個月內(nèi)，臉書、Instagram和Threads將嘗試對上傳到平臺上的照片進(jìn)行檢測，并打上“AI標(biāo)簽”。

　　這件事情要分成兩個層面來講：“有據(jù)可循”的AIGC圖片，以及雜亂無章的AI視頻、音頻內(nèi)容。

　　首先，是標(biāo)準(zhǔn)比較清晰的圖片領(lǐng)域。以Meta自家的AI“文生圖”功能為例，通過這種途徑生成的圖片，不僅左下角會有看得見的水印，同時圖片的元數(shù)據(jù)中也會被打上“看不見的水印”。

（來源：Meta AI）

　　Meta表示，正在開發(fā)能夠批量識別這類水印的工具，特別是C2PA和IPTC技術(shù)標(biāo)準(zhǔn)——意味著當(dāng)谷歌、OpenAI、微軟、 Adobe、Midjourney、Shutterstock等公司按照計(jì)劃在AIGC工具中加入元數(shù)據(jù)后，Meta就能在社交媒體平臺上批量識別并標(biāo)注出這些公司生成的AI圖片。

　　當(dāng)然，光靠幾家巨頭合作并不能解決所有問題，而且那些惡意使用AI的人，也有辦法去除AI圖片中的標(biāo)記水印。

　　前英國副首相、Meta全球事務(wù)和通訊總裁尼克·克萊格補(bǔ)充稱，Meta現(xiàn)在也在開發(fā)分類器，目的是自動檢測那些由AI生成，但沒有數(shù)據(jù)水印的圖片。同時，Meta的AI實(shí)驗(yàn)室近些日子剛分享了一種名為“穩(wěn)定簽名”的數(shù)字水印技術(shù)，將水印機(jī)制直接集成到圖像生成的步驟中，這對于許多開源模型來說會非常有價值。

　　那視頻、音頻怎么辦？

　　Meta透露，與圖片有“隱形水印”標(biāo)準(zhǔn)不同，AI生成的音頻、視頻缺乏這方面的共識，所以現(xiàn)在無法通過檢測信號來打標(biāo)簽。

　　對此，Meta決定引入自主申報(bào)和處罰機(jī)制。除了讓用戶自主申報(bào)AI視頻和音頻外，Meta可能會對那些故意創(chuàng)作深度偽造（deepfake）內(nèi)容且故意不報(bào)的用戶進(jìn)行處罰。

　　克萊格進(jìn)一步表示，如果Meta認(rèn)定某些AI創(chuàng)作或修改的圖像、視頻或音頻內(nèi)容，在重要問題上實(shí)質(zhì)性欺騙公眾的風(fēng)險(xiǎn)特別高，可能會酌情添加一個更醒目的標(biāo)簽。

　　即便對于“AI大鬧大選年”心存顧慮，但克萊格依然認(rèn)為這種情況在今年“席卷Meta平臺”的可能性并不高。克萊格表示：“我們不可能很快看到完全由人工合成的、具有重大政治意義的視頻或音頻，我只是不認(rèn)為會有這樣的結(jié)果?！?/p>

　　克萊格同時提到，Meta內(nèi)部已經(jīng)在測試依照社區(qū)準(zhǔn)則訓(xùn)練的大語言模型，并稱這項(xiàng)技術(shù)提供了一種高效的“分流機(jī)制”，確保人工審核員看到的帖子，的確是需要人工判斷的邊緣案例。

股市回暖，抄底炒股先開戶！智能定投、條件單、個股雷達(dá)……送給你>>

海量資訊、精準(zhǔn)解讀，盡在新浪財(cái)經(jīng)APP

責(zé)任編輯：王許寧