經(jīng)歷了37個(gè)小時(shí)“馬拉松式”談判后，歐盟委員會(huì)、歐洲理事會(huì)和歐洲議會(huì)達(dá)成共識(shí)，就人工智能（AI）協(xié)調(diào)規(guī)則提案，即《人工智能法案》達(dá)成了臨時(shí)協(xié)議。
歐盟的《人工智能法案》是全球首部涉及人工智能監(jiān)管的法案。
9日，歐洲理事會(huì)發(fā)布新聞聲明證實(shí)了上述消息，并稱該法規(guī)草案旨在確保歐洲市場并在歐盟使用的人工智能系統(tǒng)安全，并尊重基本權(quán)利和歐盟價(jià)值觀。同時(shí)，該提案還旨在刺激在歐洲的人工智能投資和創(chuàng)新。
歐盟內(nèi)部市場委員布雷東在社交媒體上表示：“歐盟成為第一個(gè)為人工智能使用設(shè)立明確規(guī)則的地區(qū)。《人工智能法案》不僅是一本規(guī)則手冊(cè)，也將成為歐盟初創(chuàng)企業(yè)和研究人員引領(lǐng)全球人工智能競賽的助推器。”
按照目前臨時(shí)協(xié)議中披露的內(nèi)容，未來違反《人工智能法案》的公司可能面臨高達(dá)其全球收入7%的罰款，具體取決于違規(guī)情況和違反規(guī)則的公司規(guī)模。
據(jù)悉，此次通過的臨時(shí)協(xié)議是為了確保能夠在2024年5月歐洲議會(huì)選舉前順利通過這項(xiàng)立法。一旦通過，還將需要兩年時(shí)間才能完全生效。
這部《人工智能法案》會(huì)對(duì)人工智能模型的開發(fā)、人工智能初創(chuàng)企業(yè)造成何種影響？又將如何監(jiān)管OpenAI的ChatGPT和谷歌的Bard等生成式人工智能工具？
主要監(jiān)管內(nèi)容
根據(jù)歐洲理事會(huì)的解釋，此次法案的中心方法論是根據(jù)人工智能對(duì)社會(huì)造成危害的能力，遵循“基于風(fēng)險(xiǎn)”（risk-based）的方法來監(jiān)管人工智能：風(fēng)險(xiǎn)越高，規(guī)則越嚴(yán)。
歐盟方面希望，作為全球首個(gè)此類立法提案，該法案可以像《通用數(shù)據(jù)保護(hù)條例》（GDPR）一樣為其他司法管轄區(qū)的人工智能監(jiān)管制定全球標(biāo)準(zhǔn)，從而在世界舞臺(tái)上推廣歐洲的技術(shù)監(jiān)管方式。
2021年4月開始，歐盟方面就醞釀對(duì)人工智能行業(yè)的監(jiān)管，提出《人工智能法案》提案的談判授權(quán)草案，將嚴(yán)格禁止“對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)”，包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為、社會(huì)地位和個(gè)人特征等進(jìn)行評(píng)價(jià)的系統(tǒng)等。不過，在醞釀過程中由于ChatGPT的“橫空出世”，歐盟方面對(duì)該法案提案進(jìn)行了修改。
第一財(cái)經(jīng)記者看到，相比于以前的提案，此次臨時(shí)協(xié)議的主要新內(nèi)容包括：針對(duì)未來可能導(dǎo)致系統(tǒng)性風(fēng)險(xiǎn)的高影響力通用人工智能模型以及高風(fēng)險(xiǎn)人工智能系統(tǒng)的治理體系；一個(gè)修訂過的管理體系，該體系在歐盟層面具有一定執(zhí)行權(quán)；一份擴(kuò)大了的禁止清單，但執(zhí)法機(jī)構(gòu)可以在遵守相關(guān)措施的同時(shí)，在公共場所使用遠(yuǎn)程生物識(shí)別技術(shù)；以及在人工智能系統(tǒng)投入使用之前，高風(fēng)險(xiǎn)人工智能系統(tǒng)的部署者有義務(wù)接受基本權(quán)利影響評(píng)估，從而更好地保護(hù)公民相關(guān)權(quán)利。
同時(shí)，按照“風(fēng)險(xiǎn)越高，規(guī)則越嚴(yán)”的原則，該臨時(shí)協(xié)議規(guī)定，僅呈現(xiàn)出有限風(fēng)險(xiǎn)的人工智能系統(tǒng)將受到非常輕微的透明度義務(wù)的約束，例如披露內(nèi)容是人工智能生成的，以便用戶可以就進(jìn)一步使用作出明智的決定。各種高風(fēng)險(xiǎn)人工智能系統(tǒng)將獲得授權(quán)，但要遵守一系列要求和義務(wù)才能進(jìn)入歐盟市場。
不過，對(duì)于人工智能的某些用途，歐盟方面認(rèn)為，其風(fēng)險(xiǎn)是不可接受的，因此，這些系統(tǒng)將被歐盟禁止。
歐盟方面給出了詳細(xì)說明。例如，此次達(dá)成的臨時(shí)協(xié)議禁止認(rèn)知行為操縱、從互聯(lián)網(wǎng)或閉路電視錄像中無目的地抓取面部圖像、在工作場所和教育機(jī)構(gòu)中實(shí)施情緒識(shí)別、社會(huì)評(píng)分、用于推斷敏感數(shù)據(jù)的生物識(shí)別分類，以及一些針對(duì)個(gè)人的預(yù)測性警務(wù)案例等。
值得注意的是，臨時(shí)協(xié)議納入了對(duì)人工智能基礎(chǔ)模型的限制，但對(duì)開源模型給予了廣泛的豁免。
開源模型是使用開發(fā)人員可以免費(fèi)使用的代碼開發(fā)的，可以根據(jù)自己的產(chǎn)品和工具進(jìn)行修改。 此舉可能有利于游說反對(duì)該法律的歐洲開源人工智能公司，包括法國的Mistral和德國的Aleph Alpha等。
然而，一些被歸類為具有“系統(tǒng)性風(fēng)險(xiǎn)”的專有模型將受到額外義務(wù)的約束，不過歐洲委員會(huì)沒有在聲明中具體說明什么標(biāo)準(zhǔn)會(huì)觸發(fā)更嚴(yán)格要求。
立法跑贏美國
觀察人士認(rèn)為，歐洲此次制定法律進(jìn)一步鞏固了在科技監(jiān)管方面的地位。
該法案主要發(fā)起者之一、歐洲議會(huì)議員圖多拉奇（Dragos Tudorache）表示，自起草立法的早期階段以來，《人工智能法案》的制定者就“仔細(xì)考慮”了對(duì)世界各國政府的影響。 他說，他經(jīng)常聽到其他立法者在開始起草自己的人工智能法案時(shí)正在研究歐盟的做法。
“這項(xiàng)立法將代表許多其他司法管轄區(qū)的標(biāo)準(zhǔn)、模式。”他說，“這意味著我們?cè)谄鸩菟鼤r(shí)必須承擔(dān)額外的謹(jǐn)慎義務(wù)，因?yàn)樗鼘?duì)許多其他司法管轄區(qū)產(chǎn)生影響。”
實(shí)際上，在美國國會(huì)多年無所作為之后，歐盟的各項(xiàng)科技法案對(duì)美國硅谷公司產(chǎn)生了廣泛的影響。
譬如，歐洲的GDPR迫使微軟等一些公司徹底改革他們處理歐洲境外用戶數(shù)據(jù)的方式。然而，有人擔(dān)心歐盟頻繁制定在科技方面的法律，令在歐洲地區(qū)的合規(guī)措施成本高昂，阻礙了小企業(yè)的發(fā)展。
與此同時(shí)，經(jīng)過數(shù)月針對(duì)人工智能技術(shù)的聽證會(huì)和論壇后，美國國會(huì)仍處于制定有關(guān)人工智能的兩黨立法的早期階段。
有國際貿(mào)易法領(lǐng)域資深專家對(duì)第一財(cái)經(jīng)記者表示，拜登政府上臺(tái)之初就表示要“整頓”科技行業(yè)，結(jié)果“板子高高舉起輕輕落下”，第一任期都快結(jié)束了，既沒有真正反壟斷，也沒有搞規(guī)則監(jiān)管立法，這也體現(xiàn)了拜登政府的一種態(tài)度。
在此情況之下，歐洲人工智能界的擔(dān)憂更為強(qiáng)烈，有不少人士都發(fā)聲表示，新立法可能會(huì)阻礙技術(shù)創(chuàng)新，從而為人工智能研究和開發(fā)已經(jīng)更加先進(jìn)的美國和英國帶來進(jìn)一步優(yōu)勢。
“有一些創(chuàng)新將不再有可能性，或在經(jīng)濟(jì)上不再可行。” 德國人工智能發(fā)展促進(jìn)中AppliedAI Initiative董事總經(jīng)理利布爾（Andreas Liebl）表示：“它（人工智能法案）只會(huì)讓你在全球競爭中放慢腳步。”
此前，歐洲工商管理學(xué)院（INSAED）的決策科學(xué)和技術(shù)管理教授埃夫根尼奧（Theos Evgeniou）在接受第一財(cái)經(jīng)記者采訪時(shí)表示，GDPR確實(shí)導(dǎo)致小公司成本高昂。這些公司大多是歐洲科技公司。它最終幫助了美國的大公司。
“從某種意義上說，這與歐洲想要做的事情恰恰相反。”埃夫根尼奧說，但監(jiān)管本身是一個(gè)不斷學(xué)習(xí)的過程，其目標(biāo)不是為了監(jiān)管而監(jiān)管，監(jiān)管和創(chuàng)新都是為了更好地造福世界。
責(zé)任編輯：周唯
VIP課程推薦
APP專享直播
熱門推薦
收起
24小時(shí)滾動(dòng)播報(bào)最新的財(cái)經(jīng)資訊和視頻，更多粉絲福利掃描二維碼關(guān)注（sinafinance）
