記者 | 安晶

編輯|劉海川

　　2023年6月，支持美國共和黨新星、佛羅里達州州長羅恩·德桑蒂斯的團隊在X平臺發布了一段與前總統唐納德·特朗普有關的視頻。當時德桑蒂斯剛宣布參加2024年美國大選，是特朗普在共和黨內的最大競爭對手。

　　這段視頻混剪了特朗普在參加真人秀時期的“你被炒了”片段，與特朗普任總統時對美國國家過敏癥和傳染病研究所所長安東尼·福奇的態度做對比。

　　新冠疫情剛開始時，福奇是白宮高級衛生顧問，他也成為反疫苗運動和右翼保守派的攻擊對象。雖然與福奇不和，但特朗普多次接受媒體采訪時均表示不會解雇福奇。

　　德桑蒂斯的團隊在視頻中使用了特朗普接受采訪時的音頻配以福奇的照片。視頻中有一幀是特朗普與福奇的合影錦集，錦集中有三張照片顯示特朗普擁抱福奇、親吻福奇的額頭，意圖說明特朗普與保守派厭惡的福奇關系密切。

圖片來源：X

　　但法國媒體隨后發現，特朗普與福奇擁抱的三張照片均為AI生成的假照片。類似的事情也出現在歐洲的選舉中。

　　去年9月底，斯洛伐克舉行國民議會選舉。在投票開始前，Facebook上流出一段音頻，音頻中聽上去是進步斯洛伐克黨主席米哈爾·希梅奇卡的男子與一家主流報社的工作人員討論如何用錢來買選票。

　　音頻發布的時間正好是在投票前的48小時噤聲期內，政客不得再就選舉發聲。在最終投票中，希梅奇卡所在的進步斯洛伐克黨輸給了左翼政黨方向黨。方向黨反對向烏克蘭提供軍事援助，進步斯洛伐克黨則是親歐盟的自由派政黨。

　　事后，Facebook上流出的音頻被認定有AI生成的痕跡。而Facebook主要禁止發布深度偽造視頻，并沒有對音頻做出相應要求。深度偽造是指利用深度學習算法來制作音頻、視頻、圖像，呈現相關人員從未說過和做過的事，或者創造從未存在過的人。

　　2024年是大選之年，全球50多個國家將舉行選舉，參選人用AI深度偽造內容攻擊政治對手、利益團體用偽造內容左右選民投票、信息真假難辨影響選民對選舉的信任度成為各國的新擔憂。

　　在AI立法上走在全球前列的歐盟再次出手，準備趕在6月的歐洲議會選舉前對深度偽造進行管控。

　　當地時間3月14日，歐盟委員會正式向Bing、Google、Facebook、TikTok，、YouTube、X等8家平臺發出通知，要求各平臺說明其采取了哪些措施以降低與生成式AI有關的風險 。相關風險包括AI“幻覺”也就是AI制造虛假信息、深度偽造的病毒式傳播以及能誤導選民的自動化處理。

　　針對生成式AI對選舉進程、傳播非法信息、保護個人數據、保護未成年人等領域的影響，歐盟委員會還要求各平臺提供內部資料，資料內容包括風險評估和應對措施。

　　委員會要求各平臺在4月5日結束前提交與保護選舉有關的資料，其余資料提交截止日為4月26日，不按時做出回應的平臺可能遭到歐盟委員會罰款。

　　歐盟委員會此次發出的通知是基于已經生效的《數字服務法》。該法案涉及對數字平臺的監管，并非專門針對AI。本周三，歐洲議會正式投票批準了歐盟的《人工智能法案》，該法案也是全球首部AI法。

　　歐盟的AI法案中有專門針對深度偽造的監管。法案第52條規定，如果AI系統生成或處理的圖像、音頻、視頻內容構成深度偽造，則系統開發方應披露相關內容為AI生成或處理。只有在相關AI應用與調查刑事犯罪有關或者進行文藝創作時，開發方才無需嚴格披露。

　　《人工智能法案》

　　該法條還對AI文本生成做出了規定。如果AI系統生成或處理的文本是為了讓公眾知曉與公共利益有關的信息，則開發方應披露相關文本為AI生成或處理。但如果AI生成的相關文本經過人類檢查或編輯，并且有自然人或法人對內容發布承擔編輯責任，則無需披露文本為AI生成。

　　雖然對深度偽造進行了約束，但歐盟的首部AI法案還在進行最后的法律術語檢查，只有在歐盟官方公報上公布后20天才能正式生效。法案執行的時間則根據內容各有不同，部分內容為生效6個月后執行，部分為12個月。這也意味著，今年的歐洲議會選舉前，歐盟的AI法將無法發揮作用。

　　在總統大選已經拉開帷幕的美國，今年以來AI深度偽造已多次攪局：新罕布什爾州初選前，AI偽造的約瑟夫·拜登音頻通過電話呼吁選民不要參加初選投票，把選票留到11月的最終對決；AI偽造的照片顯示特朗普曾搭乘杰弗里·愛潑斯坦的飛機前往“蘿莉島”，愛潑斯坦被控組織未成年少女從事性交易。

　　“蘿莉島”照片事件后，特朗普憤怒發聲，警告AI將在未來成為一個大危險，呼吁制定“強有力的法律”監管AI。

　　但在美國聯邦層面，距離出臺全國實施的AI法還非常遙遠。今年2月，也就是美國大選初選已經開始后，美國眾議院才宣布成立跨黨派工作組研究針對AI的立法。

　　對于大選中已經出現的深度偽造問題，目前美國的處理辦法是由聯邦通信委員會依照具體情況頒禁令。上月，美國聯邦通信委員會宣布禁止用AI生成的聲音撥打自動語音電話，明確該行為違反1991年的《電話消費者保護法》。

　　美國消費者權益組織Public Citizen去年向聯邦通信委員會發起申訴，要求委員會修改規章，明確故意使用AI生成內容歪曲競選候選人或政黨立場的行為是違法行為。聯邦通信委員會接收了申訴，但還沒有做出決定。

　　相比聯邦機構，美國各州對在州范圍內制定AI法更為積極。

圖片來源：Public Citizen

　　Public Citizen統計顯示目前美國有43個州提出了70項法案限制AI在選舉中的使用，這70項法案中有7項已生效。在密歇根州，去年11月生效的法案禁止個人在選舉前90天內發布破壞候選人名譽、扭曲候選人立場、試圖影響選民行為的AI生成深度偽造內容。

　　但這70項法案中有至少30項是今年才提出，從州議會討論到正式投票還需經過漫長的過程。深度偽造在今年的美國大選已無法避免，未知數僅在于這些偽造內容將對選民產生多大影響。

海量資訊、精準解讀，盡在新浪財經APP

責任編輯：李鐵民