安裝新浪財(cái)經(jīng)客戶端第一時間接收最全面的市場資訊→【下載地址】
由于對公司領(lǐng)導(dǎo)層失去信心,OpenAI的人工智能安全團(tuán)隊(duì)正面臨“大規(guī)模外流”,主要成員紛紛辭職。本周,OpenAI超級對齊團(tuán)隊(duì)負(fù)責(zé)人伊利亞·蘇茨克沃和簡·雷克在同一天內(nèi)先后宣布離開。
蘇茨克沃和雷克是確保人工智能與人類目標(biāo)保持一致的關(guān)鍵人物,他們的離職引發(fā)了人們對該公司在人工智能安全方面的未來的擔(dān)憂。
自去年11月OpenAI董事會試圖解雇CEO薩姆·奧特曼以來,至少還有五名專注于AI安全的員工離職。據(jù)公司內(nèi)部消息人士透露,這次失敗的驅(qū)逐導(dǎo)致關(guān)注AI安全的員工對奧特曼失去了信任。
一位匿名消息人士表示:“這是一個信任一點(diǎn)一點(diǎn)崩塌的過程,就像多米諾骨牌一塊一塊倒下一樣。”
OpenAI帶有非貶低條款的離職協(xié)議也導(dǎo)致離職員工保持沉默。那些拒絕簽署協(xié)議的人將喪失他們在公司的股權(quán),可能損失數(shù)百萬美元。
拒絕簽署離職協(xié)議的前員工丹尼爾·科科塔伊洛(Daniel Kokotajlo)直言不諱地談到了該公司的發(fā)展方向。
他說:“OpenAI正在訓(xùn)練越來越強(qiáng)大的AI系統(tǒng),目標(biāo)是最終全面超越人類智能。這可能是人類有史以來發(fā)生的最好的事情,但如果我們不小心行事,它也可能是最壞的。”
雷克在X上的一篇帖子中回應(yīng)了科科塔伊洛的擔(dān)憂,他寫道:“很長一段時間以來,我一直不同意OpenAI領(lǐng)導(dǎo)層對公司核心優(yōu)先事項(xiàng)的看法,直到我們最終達(dá)到了臨界點(diǎn)。”
奧特曼在X上發(fā)帖感謝并肯定了簡·雷克在OpenAI的貢獻(xiàn)和領(lǐng)導(dǎo)能力。并表示,未來幾天內(nèi)會發(fā)表一篇更長的帖子,以闡述OpenAI對于產(chǎn)品安全的規(guī)劃和所做的事情。
責(zé)任編輯:于健 SF069
VIP課程推薦
APP專享直播
熱門推薦
收起24小時滾動播報(bào)最新的財(cái)經(jīng)資訊和視頻,更多粉絲福利掃描二維碼關(guān)注(sinafinance)