歡迎關(guān)注“創(chuàng)事記”的微信訂閱號：sinachuangshiji

　　文/心緣      編輯 |  漠影

　　來源：智東西

　　AI這把雙刃劍，向善還是向惡？

　　2020年已經(jīng)完結(jié)撒花，這一年，人工智能（AI）領(lǐng)域可謂是一波未平一波又起，始終占據(jù)著人們關(guān)注的話題中心。

　　無論是美國限制AI軟件出口禁令生效，還是各種爭議不休的數(shù)據(jù)亂象、AI算法偏見和AI應(yīng)用泛濫等問題，都在持續(xù)牽扯著人們因疫情折磨已然脆弱不堪的神經(jīng)。

　　自然換臉、去馬賽克、預測大選、下棋無敵……當AI開始展露過人的能力，如何保證科技至善而不會向惡蔓延？當AI持續(xù)深入更多產(chǎn)業(yè)和生活，如何保證算法不會被數(shù)據(jù)偏差所左右？

　　回顧2020年AI圈十大熱議焦點，或許能為AI接下來的發(fā)展方向提供些許的借鑒意義。

　　01、

　　限制AI出口：中美新規(guī)均限制AI技術(shù)出口

　　人工智能“出息”了！2020年才一開年，特朗普政府就頒布新規(guī)，要限制人工智能軟件的出口，而在去年，出口管制還主要是半導體等關(guān)鍵領(lǐng)域的軟硬件技術(shù)才享有的封鎖“待遇”。

　　新規(guī)規(guī)定，從美國出口特定類型地理空間影像軟件的公司必須申請許可，才能出口至海外。無論智能化傳感器、無人機以及其他自動化設(shè)備的目標識別軟件，都將受到管制。

▲美國新規(guī)限制地理空間圖像AI軟件出口

　　8月28日，中國商務(wù)部、科技部調(diào)整發(fā)布了最新版的《中國禁止出口限制出口技術(shù)目錄》，新增語音合成技術(shù)、人工智能交互界面技術(shù)、語音評測技術(shù)、智能閱卷技術(shù)、基于數(shù)據(jù)分析的個性化信息推送服務(wù)技術(shù)等AI相關(guān)技術(shù)條款。

　　也就是說，這些技術(shù)凡涉及向境外轉(zhuǎn)移，均需到省級商務(wù)主管部門申請技術(shù)出口許可，獲得批準后方可出口。

▲《中國禁止出口限制出口技術(shù)目錄》部分調(diào)整內(nèi)容

　　02、

　　數(shù)據(jù)黑產(chǎn)：泄露損害大，售賣不值錢

　　2020年7月17日，在延遲123天播出的央視315晚會上，曝光了關(guān)于手機插件（SDK）違規(guī)手機用戶信息的數(shù)據(jù)采集亂象，其中涉事企業(yè)名單中不乏以AI技術(shù)為主的公司。

　　最可氣的是，在自己眼里珍貴重要的人臉數(shù)據(jù)，在網(wǎng)絡(luò)黑市上被售賣時卻相當不值錢。央視10月報道稱，在某些網(wǎng)絡(luò)交易平臺上，只花2元錢就能買到上千張人臉照片，而且全都是真人照。

　　從手機號、身份證號、家庭住址等文本信息到指紋、人臉等生物特征信息，在日漸以數(shù)據(jù)為中心的時代，個人信息成為不法分子的牟利來源。

　　都說需經(jīng)同意才能采集數(shù)據(jù)，可是多少家機構(gòu)在收集數(shù)據(jù)時，真正公開透明、反復確認過被采集者的意愿呢？

　　03、

　　人臉識別濫用：誰來保護我的臉？

　　遠距離高清攝像頭，能在你毫無察覺地情況下，悄無聲息地采集完成你的人臉信息。這種便捷又高效的采集方式，致使刷臉應(yīng)用愈發(fā)盛行。

　　注冊App刷臉、買單刷臉、看房刷臉、打車刷臉、倒垃圾刷臉，連取廁紙都安裝上了人臉識別裝置……這年頭，刷臉帶來了方便，也帶來了無處不在的安全風險。

　　《人臉識別應(yīng)用公眾調(diào)研報告（2020）》顯示，使用人臉識別的三成受訪者已經(jīng)因為人臉信息泄露、濫用而遭受到隱私或財產(chǎn)損失。

　　類似案例屢見不鮮。2020年9月，廣西南寧十幾名業(yè)主因刷臉認證漏洞，被黑中介過戶房產(chǎn)騙了超千萬元；為了避免被售樓部采集人臉信息，購房者被迫“戴著頭盔去看房”。

　　刷臉固然方便，但如果方便無法抵消危險，那損失由誰來買單？

　　04、

　　AI換臉：活在真假混淆的世界

　　隨著AI深度合成和深度偽造技術(shù)門檻降低，AI換臉技術(shù)逐漸深入大眾生活。

　　今年有幾部電視劇通過AI換臉技術(shù)怒刷一波存在感，不過換臉效果卻品質(zhì)不一。

　　比如電視劇《三千鴉殺》中的女二使用AI換臉技術(shù)后，時而表情僵硬，時而面部扭曲，效果一言難盡。相比之下，電視劇《了不起的兒科醫(yī)生》用的AI換臉技術(shù)明顯更加走心，演員仝卓的臉被換得幾乎沒有違和感。

　　除了電視劇外，換臉技術(shù)也正離登陸電影大熒幕越來越近。今年6月，迪士尼展示了首個百萬像素逼真換臉技術(shù)，使得換臉技術(shù)有希望用于對高清有強新需求的大制作電影和電視節(jié)目。

　　11月，國外視頻網(wǎng)站上的一部《Step Brother》電影短片將史泰龍和施瓦辛格這兩位好萊塢頂級功夫巨星的臉，換到了兩名小眾演員的臉上。

　　12月，圣誕節(jié)這天，英國Channel 4電視頻道用AI換臉技術(shù)制造了以假亂真的惡搞版女王圣誕致辭，全程高能吐槽。

　　▲英國Channel 4制作了惡搞版女王圣誕致辭

　　AI換臉日益逼真，技術(shù)門檻越來越低，帶給影視內(nèi)容應(yīng)用更高效率、更低制作成本等好處，但隨之而來的造假、造謠、欺詐等問題，真假混淆使得人們卻愈發(fā)缺失安全感。

　　在今年美國大選期間，換臉技術(shù)還成了政客互相攻擊的武器。比如特朗普今年4月在推特上轉(zhuǎn)發(fā)了一個偽造拜登吐舌頭的視頻，當晚視頻播放量超過1000萬次。隨后特朗普在5月又轉(zhuǎn)發(fā)了用自己臉替換科幻電影《獨立日》中總統(tǒng)托馬斯·懷特摩爾、發(fā)表“我們要為我們的生存而戰(zhàn)”演講的視頻。

▲特朗普推特轉(zhuǎn)發(fā)拜登換臉惡搞視頻

　　不過，將從2021年1月1日起施行的《民法典》第1019條明確指出，任何組織或個人不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。

　　也就是說，明年再想用AI換臉技術(shù)制作鬼畜視頻或傳播不實訊息，需先掂量掂量能不能過法律這一關(guān)。

　　05、

　　AI去馬賽克：敏感信息還能守住嗎？

　　隨著AI技術(shù)進步，修圖越變越省力了，省力到甚至能把打了馬賽克的文字和圖片還原。

　　今年12月，一個名為Depix的Github項目爆火，上線三天star數(shù)高達6.9k，它能從修復肉眼無法識別的被打碼文字，基本恢復原文信息。

▲Depix項目修復馬賽克文字

　　更早的時候，在今年6月，杜克大學推出的AI算法PULSE能將低分辨率的人臉圖像放大64倍，把原本模糊的人臉重新變得清晰可見。

▲PULSE算法并不能將糊圖恢復成真實面貌

　　不過好在這個技術(shù)不算真“還原”，因為恢復的人像建立在想象的基礎(chǔ)上，大多從模糊人像生成的清晰圖像是一張全新的虛擬面孔，甚至會將有色人種還原成白色人種。

　　這些技術(shù)可以為偵查提供高效的工具，但如果為思想不端者所用，任何想通過“打碼”保護的敏感信息都將不再安全。

　　06、

　　AI偏見：歧視從數(shù)據(jù)進入算法

　　人臉識別不僅作為身份識別工具，還被一些研究學者用于看面相。比如在今年6月，學術(shù)出版商《Springer Nature》原本計劃發(fā)表一篇通過AI看人臉來推斷一個人是否會犯罪的論文，但這遭到了1700名研究人員的聯(lián)名發(fā)公開信抵制。

　　論文稱其技術(shù)沒有種族偏見，根據(jù)照片中人臉特征預測是否為罪犯的準確性達到了80%。不過對于這種說法，其他AI研究者并不買賬。公開信的組織者之一Audrey Beard表示：“根本無法開發(fā)出不存在種族偏見的犯罪預測系統(tǒng)，因為刑事司法數(shù)據(jù)本身就是存在種族偏見的?！?/p>

▲《Springer Nature》推特回應(yīng)：不會發(fā)表該論文

　　種族偏見長期是美國產(chǎn)學界的敏感話題。如果數(shù)據(jù)集本身存在偏見，那么用這一數(shù)據(jù)集訓練出的AI算法很難做到客觀。在這一背景下，美國關(guān)于AI偏見的熱點事件層出不窮。

　　今年6月，IBM宣布不再提供任何人臉識別服務(wù)和人臉分析軟件，也不再繼續(xù)研發(fā)相關(guān)技術(shù)，理由是“反對將技術(shù)用于種族歧視和大規(guī)模監(jiān)視”；7月，因為關(guān)于AI偏見能不能完全歸因于數(shù)據(jù)偏差的激烈爭論，2018年圖靈獎得主、深度學習先驅(qū)Yann LeCun被氣得宣布退出推特。

▲Yann LeCun宣布退出推特

　　最新熱點聚焦于谷歌，12月初，谷歌AI倫理學家Timnit Gebru在推特上發(fā)消息稱自己遭解雇，而解雇原因竟是因為她撰寫了一篇指出大型語言模型存在偏見的論文。

　　因AI偏見與倫理本身就是熱點話題，加上Timnit Gebru是一位黑人女性，此事關(guān)注度一路上漲。隨后谷歌CEO桑達爾·皮查伊（Sundar Pichai）在面向全體員工的內(nèi)部郵件中向Timnit Gebru致歉，并承諾將對解雇一事進行展開詳細調(diào)查。

▲谷歌AI倫理學家Timnit Gebru

　　種種事例一再說明，當前的AI算法并不完美，甚至可能使歧視和偏見長期化、永久化。

　　07、

　　AI愛禿頭：足球聯(lián)賽驚現(xiàn)“人工智障”

　　AI興起幾年了，但AI的“智障”行為依然不時出現(xiàn)在各種場合中，為人們不斷貢獻飯后笑料。

　　今年10月24日舉行的蘇格蘭足球冠軍聯(lián)賽，大概是轉(zhuǎn)播觀眾看得最不爽的球賽之一了。罪魁禍首就是嚴重犯蠢的AI攝像機，執(zhí)著地將一位裁判的光頭誤認成足球，并且全場追拍，導致觀眾無法通過實時轉(zhuǎn)播完整觀賽，還錯過了最重要、最精彩的射門進分畫面。

▲AI攝像機跑偏，執(zhí)著追蹤一位裁判的光頭

　　網(wǎng)友們調(diào)侃說，這再次證明了AI的確存在偏見，相比足球，它更偏愛禿頭。

　　08、

　　AI預測大選：幾家歡喜幾家愁

　　和往年一樣，每到能發(fā)揮“預言家”能力的時候，AI必不缺席。在今年的“熱門大戲”美國總統(tǒng)大選前期，多家公司及研究團隊用AI預測選舉結(jié)果。

　　總統(tǒng)大選塵埃落定后，幾家歡喜幾家憂。意大利的NLP公司Expert.ai根據(jù)往年選舉數(shù)據(jù)和相關(guān)數(shù)百萬社交網(wǎng)絡(luò)內(nèi)容，較準確地預測了大選結(jié)果。

　　加州群體智能公司Unanimous.ai通過收集人群比如大宗商品投資者的預測和決策來做判斷，從9月的一次調(diào)查準確地預測了8個搖擺州的結(jié)果。

　　而此前正確預測20多次選舉和公投的Advanced Symbolics Inc。的系統(tǒng)Polly卻遭遇滑鐵盧，預測拜登會以372：166大勝并拿下佛羅里達州，但實際上特朗普贏得了佛羅里達州的支持，拜登雖贏了，卻是以306：232險勝。

　　09、

　　AI找對象：政府用AI拯救低迷生育率

　　今年12月初，據(jù)日本《讀賣新聞》報道，為了提高結(jié)婚率、生育率，日本政府計劃在下一財年撥款20億日元（約合1.3億人民幣）推進用AI幫助人們尋找婚配對象的計劃。

　　AI婚配系統(tǒng)將在日本的25個縣實施，基于參加者提供的年齡、學歷、年薪、興趣、收入條件、價值觀等信息，用AI算法分析后推薦出合適人選。

　　實際效果還不錯，比如埼玉縣2019年結(jié)婚的38組新人中，有21對新人都是通過AI婚配系統(tǒng)的推薦而成為情侶。

　　日本政府對于導入和使用AI婚配系統(tǒng)的縣，還提供2/3的必要經(jīng)費補助，而通過政府資助的婚配支援事業(yè)，個人僅需花費約1-2萬日元（約合500-1000人民幣）。

　　當然啦，AI婚配系統(tǒng)主要依據(jù)用戶提供信息來提供判斷，雖然在大多數(shù)情況下能節(jié)約找對象的時間，卻也存在遇到虛假數(shù)據(jù)的風險。

　　10、

　　AI作弊：13歲韓國圍棋天才少女用AI舞弊

　　今年11月，13歲韓國圍棋天才少女、韓國現(xiàn)役最年輕職業(yè)棋手金恩持，因用AI在比賽中作弊，被韓國棋院處以“資格停止一年”的懲戒處分。

▲金恩持下棋

　　在今年9月29日的一場線上比賽中，身為二段的金恩持戰(zhàn)勝了韓國頂級棋手李英九九段，被質(zhì)疑使用AI的可能性后，韓國棋院、韓國國家隊邀請AI專家研究分析了相關(guān)棋譜，發(fā)現(xiàn)金恩持的棋譜與AI程序的推薦吻合率達到92%。

　　事后，金恩持承認使用AI的事實。而這不是韓國棋手首次因為AI作弊而受處罰，今年1月，一位棋手參加比賽時用大衣紐扣里的微型攝像機將比賽實況發(fā)給同伙，然后通過微型耳機接收同伙發(fā)來的AI分析結(jié)果進行作弊，結(jié)果被當場抓獲，今年7月被判決一年有期徒刑。

　　這不免令人感到唏噓?？萍歼M步是為了人類能更好的進步，而不該被用作投機取巧的工具。

　　別只顧贏比賽，丟了競技精神和人品。

　　結(jié)語：一念向善，一念向惡

　　從這十大AI領(lǐng)域的熱議焦點，可以看到，信息安全是一場硬仗，在AI走向普及的道路上，信息安全戰(zhàn)役是一場持久戰(zhàn)，算法安全性、數(shù)據(jù)透明性、法規(guī)約束等都是必然要攻克的課題。

　　在接下來的一年，AI將在更多應(yīng)用場景中發(fā)揮獨特的價值，科技進步必將為人所用，而這把“雙刃劍”會向善還是向惡，是會溫暖人心還是化作傷人利器，選擇權(quán)終究掌握在人類的手中。

（聲明：本文僅代表作者觀點，不代表新浪網(wǎng)立場。）