轉(zhuǎn)自：北京商報(bào)
員工被要求向指定賬戶轉(zhuǎn)賬，老板卻是AI換臉后的“冒牌貨”？就在2月，一則涉案金額高達(dá)2億港元的AI換臉詐騙案引發(fā)了高度關(guān)注。
如果說2023 年是生成式AI的元年，那么2024年它又迎來了新的爆發(fā)。ChatGPT帶來人工智能革命性的突破，Sora的橫空出世，又將人們帶入視頻生成全新領(lǐng)域。而在各種新鮮技術(shù)層出不窮的當(dāng)下，不法分子通過AI換臉詐騙的隱患也隨之滋生。問題隨之而來：AI換臉怎么實(shí)現(xiàn)的？有沒有好的方法甄別？此類風(fēng)險(xiǎn)又該如何預(yù)防？
AI詐騙橫行
根據(jù)香港警方披露，一家跨國公司香港分部的職員受邀參加總部首席財(cái)務(wù)官發(fā)起的“多人視頻會(huì)議”，按照高管們的安排，先后15次將2億港元轉(zhuǎn)到指定的賬戶。沒承想，其他“參會(huì)人員”都是經(jīng)過AI換臉后的詐騙人員。
事后調(diào)查發(fā)現(xiàn)，詐騙人在開始行動(dòng)前，早已搜集好了公司高層的媒體采訪、視頻平臺(tái)的相關(guān)內(nèi)容，并拿到英國總公司高層管理人員的形象和聲音，利用Deepfake（深度偽造）技術(shù)，制作出高層人員的發(fā)言視頻。而詐騙人在視頻會(huì)議當(dāng)天直接使用提前制作好的視頻，由于視頻會(huì)議的內(nèi)容基本上是總公司的高管們單方面向其他人下達(dá)命令，會(huì)議期間并沒有暴露真相。
此次詐騙事件中的“Deepfake”技術(shù)，在早年就已經(jīng)引起過轟動(dòng)。這樣的深度偽造技術(shù)指基于AI人工智能技術(shù)進(jìn)行人體圖像的合成。目前使用AI的深偽技術(shù)已經(jīng)能達(dá)到還原度很高的換臉效果，再結(jié)合語音偽造技術(shù)，就能做到“造人”。
香港2億港元詐騙案并不是個(gè)例。近日，陜西西安財(cái)務(wù)人員張女士與老板視頻通話，被要求轉(zhuǎn)賬186萬元到一個(gè)指定賬號。被害人張女士稱，“老板”讓把這個(gè)款趕緊轉(zhuǎn)過去，這筆款要得非常著急，因?yàn)椤袄习濉甭曇暨€有視頻圖像都跟他本人是一樣的，所以并未起疑。當(dāng)然，這同樣是一場騙局。
種種案件的發(fā)生，已經(jīng)昭示著AI詐騙離我們不再遙遠(yuǎn)。電信詐騙不法分子通常會(huì)換臉成親人、朋友、同事等，向受害人索取錢財(cái)，視頻的方式看似可信度高，卻也讓受害人放松了警惕。
已有檢測算法辨別換臉
“眼見不一定為實(shí)”“有圖有視頻也不一定是真相”的時(shí)代已經(jīng)來臨。AI技術(shù)革新催生了花樣繁雜的詐騙手段，對于普通人來說，了解技術(shù)背后的原理，才能“知己知彼”。
事實(shí)上，AI換臉背后的技術(shù)邏輯并不復(fù)雜。“簡單來講，AI換臉主要使用的就是深度合成技術(shù)。”中國信通院人工智能中心安全與元宇宙部主任石霖介紹道，首先使用大量的人臉數(shù)據(jù)，通過深度學(xué)習(xí)算法和神經(jīng)網(wǎng)絡(luò)，訓(xùn)練模型識(shí)別和理解人臉的關(guān)鍵特征，這些特征主要包括五官的位置、表情、光照等。在換臉的過程中，使用訓(xùn)練好的模型提取原始人臉照片或視頻的特征，然后將目標(biāo)人臉與之相匹配，實(shí)現(xiàn)這些特征的轉(zhuǎn)移。
石霖補(bǔ)充到，前幾年，實(shí)現(xiàn)AI換臉存在一定的門檻，通常需要高質(zhì)量的數(shù)據(jù)集對模型進(jìn)行訓(xùn)練和微調(diào)，讓模型能夠準(zhǔn)確地識(shí)別和提取面部特征；在制作換臉視頻的過程中，需要足夠的算力資源來支撐模型的運(yùn)行。然而當(dāng)前，已經(jīng)有很多相對成熟的深度合成的開源項(xiàng)目或者工具。“可以說AI換臉的成本正在逐步降低，速度和擬真度正在不斷提升，已經(jīng)達(dá)到了快速制作一段肉眼難以辨別的換臉視頻的程度。”
不過與此同時(shí)，當(dāng)前AI換臉的一些技術(shù)弱點(diǎn)仍然存在。石霖指出，一些換臉的視頻會(huì)存在光照、表情等不夠自然、幀與幀之間不夠連貫的問題，盡管隨著模型能力的提升，這些換臉的痕跡已經(jīng)做到幾乎肉眼難以辨別的程度，但我們?nèi)匀豢梢酝ㄟ^一些專用的檢測算法進(jìn)行辨別。這些檢測算法在訓(xùn)練過程中大量學(xué)習(xí)了換臉視頻中偽造特征的方式，在使用的過程中逐幀提取特征，從而判斷一段視頻是否經(jīng)過了換臉。當(dāng)前，這些技術(shù)已經(jīng)開始用在金融場景中，實(shí)現(xiàn)對詐騙等行為的識(shí)別。
那么，這些鑒別技術(shù)應(yīng)用于反詐領(lǐng)域，前景如何？不得不承認(rèn)，網(wǎng)絡(luò)信號與算力仍是待解決的難題。“由于這些技術(shù)仍然需要大量的計(jì)算資源特別是GPU的支持，因此，通常在使用過程中，需要將相關(guān)的檢測模型部署在服務(wù)器中。但如果想要將這些檢測模型部署在手機(jī)、個(gè)人電腦中，或嵌入到社交、會(huì)議軟件里，可能會(huì)對軟硬件的使用體驗(yàn)造成較大的影響。近年來，很多技術(shù)企業(yè)已經(jīng)開始嘗試不斷優(yōu)化檢測模型，探索將模型部署在端側(cè)。”石霖說道。
隱私泄露的黑灰產(chǎn)業(yè)鏈
“我的人臉信息他們從何而來？”“人臉識(shí)別會(huì)被攻克嗎？”不法分子有機(jī)會(huì)實(shí)施AI換臉詐騙，背后反映出公民面部特征等生物識(shí)別信息、家庭身份信息、財(cái)產(chǎn)信息等隱私泄露的問題，更值得深思。
“詐騙分子給你發(fā)個(gè)鏈接，上傳幾張照片、填寫個(gè)人信息就能領(lǐng)幾塊錢紅包，這樣的收集方式太普遍了。”北京某高校一相關(guān)技術(shù)資深研究員對北京商報(bào)記者表示，當(dāng)前公民個(gè)人信息被非法收集、交易、挖掘、利用的問題長期存在，并且已經(jīng)形成黑灰產(chǎn)業(yè)鏈。AI技術(shù)被運(yùn)用到黑灰產(chǎn)業(yè)鏈上，恰恰使得不法分子對個(gè)人的畫像越來越精確，借此開展精準(zhǔn)詐騙。
在北京尋真律師事務(wù)所律師王德怡看來，從法律層面上來講，我國缺少一部對公民個(gè)人信息進(jìn)行完整保護(hù)的法律或行政法規(guī)。一些保護(hù)性規(guī)定只是在一些部門規(guī)章或地方性規(guī)定中有體現(xiàn)。生活中使用人臉識(shí)別技術(shù)非常普遍，但相關(guān)數(shù)據(jù)的傳輸、存儲(chǔ)、保護(hù)是一個(gè)大問題。一旦發(fā)生數(shù)據(jù)泄露或者有意出售，難以追究責(zé)任。如何在提供技術(shù)方便的同時(shí)，又保證個(gè)人數(shù)據(jù)安全，需要立法劃清權(quán)利義務(wù)邊界。
一方面，是隱私信息的采集和使用者未按規(guī)定收集、存儲(chǔ)、使用和銷毀個(gè)人隱私，導(dǎo)致在對隱私數(shù)據(jù)設(shè)定嚴(yán)格的訪問控制規(guī)則上出現(xiàn)疏漏；另一方面，公民能否建立良好隱私保護(hù)意識(shí)，同樣起到了至關(guān)重要的作用。石霖建議，當(dāng)用戶遇到采集人臉等個(gè)人隱私數(shù)據(jù)的網(wǎng)站、App，應(yīng)該謹(jǐn)慎和仔細(xì)閱讀敏感信息的收集協(xié)議，了解適用范圍，謹(jǐn)慎將人臉等個(gè)人隱私數(shù)據(jù)授權(quán)給不必要的企業(yè)和個(gè)人。
多主體全鏈條治理
除了消費(fèi)者自身提高網(wǎng)絡(luò)安全意識(shí)，對于AI換臉相關(guān)風(fēng)險(xiǎn)的預(yù)防與整治，需要從平臺(tái)、相關(guān)技術(shù)服務(wù)商，到監(jiān)管、司法形成多主體、全鏈條的治理。
北京市中聞律師事務(wù)所律師李亞指出，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確規(guī)定，不得利用深度合成服務(wù)從事危害國家安全和利益、損害國家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)。針對網(wǎng)絡(luò)用戶、服務(wù)平臺(tái)，可通過對AI深度合成技術(shù)的使用目的以及數(shù)據(jù)和技術(shù)管理進(jìn)行規(guī)制，實(shí)現(xiàn)深度合成技術(shù)的合理使用。
“在人臉等敏感個(gè)人信息的采集使用者層面，應(yīng)該嚴(yán)格落實(shí)法律法規(guī)的相關(guān)要求，設(shè)定采集和使用范圍、訪問規(guī)則、銷毀策略等，并配備相關(guān)的技術(shù)手段提升安全防護(hù)能力。在技術(shù)提供方層面，應(yīng)該不斷提升換臉視頻的識(shí)別能力，降低識(shí)別系統(tǒng)的運(yùn)行成本，逐步實(shí)現(xiàn)識(shí)別系統(tǒng)的廣泛普及應(yīng)用。”石霖補(bǔ)充道。
此外，監(jiān)管是必不可少的一環(huán)。石霖表示，應(yīng)加強(qiáng)涉及人臉信息采集、使用的互聯(lián)網(wǎng)信息服務(wù)提供者的監(jiān)管工作，依法依規(guī)對采集、存儲(chǔ)、使用、銷毀等關(guān)鍵環(huán)節(jié)的制度、技術(shù)進(jìn)行執(zhí)法檢查，幫助企業(yè)提升安全合規(guī)能力。
風(fēng)險(xiǎn)提示
針對性強(qiáng)、不易識(shí)別是AI換臉新型騙局的主要特征。對于普通消費(fèi)者來說，如何有效甄別、避免遭受財(cái)產(chǎn)損失？
專家建議，如遇此類詐騙手段，最簡單的方法，可以要求對方在視頻對話時(shí)，在臉部的前面通過揮手的方式進(jìn)行識(shí)別，或讓對方摁鼻子、捏臉觀察其面部變化。實(shí)時(shí)偽造的視頻，在揮手的過程中，會(huì)造成面部數(shù)據(jù)的干擾，很容易露出破綻；如果是真人的鼻子、臉部，按下去會(huì)變形，但AI生成的鼻子并不會(huì)。
另外，如果覺得聊天內(nèi)容不太對勁，可以放大窗口查看光線和陰影是否正常，人像邊緣有沒有模糊；還可以在點(diǎn)對點(diǎn)的溝通中問一些只有對方知道的問題，驗(yàn)證屏幕對面人的身份真實(shí)性。
當(dāng)然，最重要的還是消費(fèi)者應(yīng)提高網(wǎng)絡(luò)安全意識(shí)，防患于未然。謹(jǐn)慎授權(quán)人臉等個(gè)人隱私信息，不點(diǎn)擊陌生鏈接、掃描陌生二維碼，不輕易泄露個(gè)人銀行卡賬戶、密碼、驗(yàn)證碼等關(guān)鍵信息。
責(zé)任編輯：張文
VIP課程推薦
APP專享直播
熱門推薦
收起
24小時(shí)滾動(dòng)播報(bào)最新的財(cái)經(jīng)資訊和視頻，更多粉絲福利掃描二維碼關(guān)注（sinafinance）
