安裝新浪財經客戶端第一時間接收最全面的市場資訊→【下載地址】
財聯社4月27日訊（編輯 史正丞）隨著AI技術快步邁入大規模應用的階段，技術遭到惡意濫用的問題再度浮上水面。前陣子一度引發微博熱議的“一鍵修圖變成一鍵去衣”，正在美國以更加惡意的形式上演。
據美國技術媒體404 Media周五報道，在該媒體的推動下，蘋果、谷歌分別從應用商店內下架了多款標榜能夠進行“一鍵去衣”的應用。真正的問題在于，包括收廣告費推廣這些應用的Meta在內，這些互聯網巨頭似乎并不能自行找到這些違反其政策的應用。
惡意AI應用“登堂入室”
報道稱，通過比對Meta平臺的廣告資料庫，404 Media找到一系列推廣“一鍵去衣”軟件的廣告，投放記錄顯示宣傳這些惡意AI軟件的廣告曾在3、4月間，在Meta旗下的多款社交媒體平臺上投放。
這類軟件標榜的功能，正是可以上傳真人照片，并且可以“一鍵擦除任意衣服”，開發者通過收費來牟利。
更令人震驚的是，這類軟件并不是存活在互聯網的陰暗角落中，而是正大光明地出現在蘋果應用商店里。當用戶點擊社交媒體上的廣告后，會直接跳轉至蘋果應用商店。在商店里的應用被偽裝成了AI藝術生成器，并沒有披露應用背后的實際用處（因為這肯定違反應用商店政策）。
在本周這件事情被曝光前，這些廣告仍一直在Meta的社交平臺上掛著，非法應用也一直混跡在蘋果、谷歌的應用商店里。
接到舉報后，Meta找到爆料的媒體，請求他們“將所有看到的廣告鏈接發給他們”，并迅速下架刪除。公司發言人Daniel Roberts隨后表示，Meta不允許存在成人內容的廣告，一旦發現會迅速刪除。公司接下來將加大審查力度，并對違反政策的賬戶采取行動。
周五的最新消息顯示，蘋果公司在收到舉報后，也把媒體發現的3款應用程序做了下架處理。谷歌則在近期下架了一款AI“換臉”程序。
事實上，這類具有“深度偽造”（DeepFake）功能的app至少在2022年就已經出現在應用商店里，但當時蘋果、谷歌接到舉報后，僅僅是要求開發者停止投放廣告宣傳不法用途，而不是將其下架。
已有美國學生因此被捕
雖然互聯網平臺對這類app處理的方式頗為被動，但這些應用已經產生了惡劣的社會后果。
據《連線》雜志報道，去年12月有兩名佛羅里達州的中學生，因為使用AI生成同學的裸照遭到警方逮捕和重罪控訴。
警方提供的報告稱，兩名男孩的年齡分別是13和14歲，所制作照片的對象是12至13歲之間的學生。根據佛羅里達州法律，他們的行為與重大汽車盜竊、非法拘禁同屬三級重罪。
雖然該案被美國媒體稱為“首個引發逮捕和起訴的案例”，但在公開報道中，加州、華盛頓州、新澤西州的中學都有過類似的事件，只不過沒有提到是否引發刑事指控。
目前在美國只有十個州將此類行為入罪，并沒有聯邦層面的法律進行規管。轉機出現在今年1月底，由于在馬斯克的X平臺上爆發使用AI制作泰勒·斯威夫特露骨照片的事件。在事態最嚴重的狀態下，X平臺不得不禁止使用“泰勒·斯威夫特”作為關鍵詞進行搜索。
在這一事件后，美國參議院兩黨議員聯合提起了一項名為《2024打擊非法偽造圖像和未經同意編輯法案》的立法。
聯名提出這項法案的共和黨參議員喬什·霍利當時對媒體表示，無論是明星還是普通人，都不應該發現自己出現在AI色情制品中。無辜者有權捍衛自己的名譽，并在法庭上追究加害者的責任。
VIP課程推薦
APP專享直播
熱門推薦
收起
24小時滾動播報最新的財經資訊和視頻，更多粉絲福利掃描二維碼關注（sinafinance）
