財(cái)聯(lián)社

　　當(dāng)?shù)貢r(shí)間周一（12月18日），人工智能（AI）研究公司OpenAI公布了一套關(guān)于防范AI風(fēng)險(xiǎn)的指導(dǎo)方針，其中值得關(guān)注的一條規(guī)則是，即使CEO等公司領(lǐng)導(dǎo)層認(rèn)為AI模型是安全的，董事會(huì)也可以阻止其發(fā)布。

　　OpenAI開發(fā)的聊天機(jī)器人ChatGPT已經(jīng)發(fā)布了一整年，這款現(xiàn)象級(jí)應(yīng)用極大促進(jìn)了AI領(lǐng)域的發(fā)展，與之而來的還有對(duì)AI發(fā)展失控的擔(dān)憂。

　　全球監(jiān)管機(jī)構(gòu)都在制定各自的AI法規(guī)，而作為AI領(lǐng)域領(lǐng)頭羊的OpenAI也在采取行動(dòng)。

　　今年10月27日，OpenAI宣布組建名為“準(zhǔn)備”（Preparedness）的安全團(tuán)隊(duì)，旨在最大限度地降低AI帶來的風(fēng)險(xiǎn)。

　　Preparedness團(tuán)隊(duì)由麻省理工學(xué)院的可部署機(jī)器學(xué)習(xí)中心主任Aleksander Madry領(lǐng)導(dǎo)，該團(tuán)隊(duì)將針對(duì)各類AI模型進(jìn)行能力評(píng)估及紅隊(duì)測(cè)試，以追蹤、預(yù)測(cè)及防范各類別的災(zāi)難性風(fēng)險(xiǎn)。

　　OpenAI周一發(fā)布了名為“準(zhǔn)備框架”（Preparedness Framework）的指導(dǎo)方針，并強(qiáng)調(diào)這套指南仍處于測(cè)試階段。

　　據(jù)悉，Preparedness團(tuán)隊(duì)每月將向一個(gè)新的內(nèi)部安全咨詢小組發(fā)送報(bào)告，該小組隨后將對(duì)其進(jìn)行分析，并向OpenAI首席執(zhí)行官薩姆·奧爾特曼和董事會(huì)提交建議。奧爾特曼和公司高層可以根據(jù)這些報(bào)告決定是否發(fā)布新的AI系統(tǒng)，但董事會(huì)有權(quán)撤銷這一決定。

　　作為OpenAI聯(lián)合創(chuàng)始人之一，奧爾特曼在不久前還是公司董事會(huì)成員，但在一場(chǎng)人事巨震中被除名，并且一度離開OpenAI。雖然奧爾特曼最終得以重返OpenAI并繼續(xù)擔(dān)任CEO一職，但新組建的“初始”董事會(huì)并沒有他的席位。

　　Preparedness團(tuán)隊(duì)將反復(fù)評(píng)估OpenAI最先進(jìn)、尚未發(fā)布的AI模型，根據(jù)不同類型的感知風(fēng)險(xiǎn)評(píng)為四個(gè)等級(jí)，從低到高依次是“低”、“中”、“高”和“嚴(yán)重”。根據(jù)新的指導(dǎo)方針，OpenAI將只推出評(píng)級(jí)為“低”和“中”的模型。

股市回暖，抄底炒股先開戶！智能定投、條件單、個(gè)股雷達(dá)……送給你>>

海量資訊、精準(zhǔn)解讀，盡在新浪財(cái)經(jīng)APP

責(zé)任編輯：周唯