報(bào)道:OpenAI已經(jīng)解散了前首席科學(xué)家Ilya領(lǐng)導(dǎo)的AI風(fēng)險(xiǎn)團(tuán)隊(duì)

報(bào)道:OpenAI已經(jīng)解散了前首席科學(xué)家Ilya領(lǐng)導(dǎo)的AI風(fēng)險(xiǎn)團(tuán)隊(duì)
2024年05月18日 04:40 媒體滾動(dòng)

安裝新浪財(cái)經(jīng)客戶端第一時(shí)間接收最全面的市場資訊→【下載地址

  來源:華爾街見聞

  OpenAI內(nèi)部大洗牌,不僅Ilya和他的親信Jan Leike已經(jīng)離職,他們共同領(lǐng)導(dǎo)的“超級(jí)智能對(duì)齊團(tuán)隊(duì)”也周五被證實(shí)解散。

  本周二,曾在宮斗事件中參與解聘CEO Sam Altman,且是OpenAI聯(lián)合創(chuàng)始人兼首席科學(xué)家的Ilya Sutskever前腳剛離職,幾小時(shí)后,“超級(jí)智能對(duì)齊團(tuán)隊(duì)”的另一位聯(lián)名負(fù)責(zé)人Jan Leike也官宣離職。

  本周五,OpenAI證實(shí),由Ilya和他的親信Jan Leike共同領(lǐng)導(dǎo)的“超級(jí)智能對(duì)齊團(tuán)隊(duì)”已經(jīng)解散。此后,該團(tuán)隊(duì)的研究工作將被整合到OpenAI的其他研究小組中。至此,一度幾乎導(dǎo)致OpenAI分崩離析的宮斗事件終于塵埃落定。

  Jan Leike周五在X上公開透露了他離職的部分原因。他的潛臺(tái)詞是,他與OpenAI高層在公司的核心優(yōu)先事項(xiàng)上存在長期分歧,最終雙方的分歧已經(jīng)嚴(yán)重到無法調(diào)和的地步。團(tuán)隊(duì)在推動(dòng)其研究項(xiàng)目和爭取計(jì)算資源時(shí)遇到了重大阻礙,缺乏資源會(huì)嚴(yán)重影響研究的進(jìn)度和質(zhì)量。

  公開資料顯示,超級(jí)智能對(duì)齊團(tuán)隊(duì)于去年7月成立,旨在研究如何安全開發(fā)比人類聰明得多的人工智能系統(tǒng),以確保通用人工智能(AGI)在造福全人類的同時(shí)不會(huì)失控并危害人類。這就是為什么OpenAI特別關(guān)注如何對(duì)這類超級(jí)智能AI進(jìn)行“對(duì)齊”——即確保它們的行為與人類的價(jià)值觀和目標(biāo)相一致。這也是他們成立“超級(jí)智能對(duì)齊團(tuán)隊(duì)”的原因之一。OpenAI表示,團(tuán)隊(duì)將獲得公司20%的計(jì)算資源。

  OpenAI最近展示了ChatGPT的新版本——一個(gè)名為GPT-4o的“多模態(tài)”AI模型,它能夠以更自然、更人性化的方式與世界互動(dòng)。在線上演示中,GPT-4o展示了模擬人類情感和與用戶進(jìn)行自然對(duì)話的能力,甚至嘗試與用戶調(diào)情。然而,這一技術(shù)進(jìn)步也引發(fā)了人們對(duì)AI侵犯隱私、情感操縱和威脅網(wǎng)絡(luò)安全等倫理問題的擔(dān)憂,因此AI監(jiān)管一直是熱門話題。

  馬斯克針對(duì)OpenAI的長期人工智能風(fēng)險(xiǎn)團(tuán)隊(duì)已經(jīng)解散這一消息評(píng)價(jià)稱:“這顯示安全并不是OpenAI的首要任務(wù)。”

  團(tuán)隊(duì)解散引發(fā)網(wǎng)友大猜想,OpenAI內(nèi)部成員還是“走散了”

  對(duì)于團(tuán)隊(duì)解散,X上網(wǎng)友紛紛發(fā)帖表示了擔(dān)憂:

“我會(huì)等待更多信息的披露,但若在短短幾個(gè)月內(nèi)超級(jí)對(duì)齊團(tuán)隊(duì)的大多數(shù)成員被清理,這似乎表明發(fā)生了一次嚴(yán)重的信任背叛,而非普通的公司內(nèi)部調(diào)整。整個(gè)團(tuán)隊(duì)這樣離開實(shí)在太異常了。”

據(jù)該團(tuán)隊(duì)的一位人士透露,OpenAI的超級(jí)對(duì)齊團(tuán)隊(duì)被承諾獲得公司20%的計(jì)算資源。但要求其中一小部分的請(qǐng)求經(jīng)常被拒絕,從而阻礙了團(tuán)隊(duì)開展工作。”

  此前周二,Ilya離職的消息引起了極大的關(guān)注,因?yàn)樗粌H是OpenAI的聯(lián)合創(chuàng)始人之一,還在去年11月與其他三名董事會(huì)成員共同決定解雇CEO奧特曼。然而,在隨后的五天內(nèi),由于員工的大規(guī)模抗議,奧特曼被重新任命為CEO,而Ilya和其他兩名董事則退出了董事會(huì)。

  Ilya離職后在社交媒體上表示,OpenAI的發(fā)展軌跡堪稱奇跡,我相信OpenAI會(huì)在Sam Altman、Greg Brockman和Mira Murati的領(lǐng)導(dǎo)下,以及Jakub Pachocki的出色研究領(lǐng)導(dǎo)下構(gòu)建安全有益的AGI。

  奧特曼在X上回應(yīng)稱,Ilya與OpenAI的分道揚(yáng)鑣令人非常悲傷。

  風(fēng)險(xiǎn)提示及免責(zé)條款

  市場有風(fēng)險(xiǎn),投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議,也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資,責(zé)任自負(fù)。

股市回暖,抄底炒股先開戶!智能定投、條件單、個(gè)股雷達(dá)……送給你>>
海量資訊、精準(zhǔn)解讀,盡在新浪財(cái)經(jīng)APP

責(zé)任編輯:歐陽名軍

VIP課程推薦

加載中...

APP專享直播

1/10

熱門推薦

收起
新浪財(cái)經(jīng)公眾號(hào)
新浪財(cái)經(jīng)公眾號(hào)

24小時(shí)滾動(dòng)播報(bào)最新的財(cái)經(jīng)資訊和視頻,更多粉絲福利掃描二維碼關(guān)注(sinafinance)

股市直播

  • 圖文直播間
  • 視頻直播間

7X24小時(shí)

  • 05-24 匯成真空 301392 --
  • 05-21 萬達(dá)軸承 920002 20.74
  • 04-29 瑞迪智驅(qū) 301596 25.92
  • 04-25 歐萊新材 688530 9.6
  • 04-01 宏鑫科技 301539 10.64
  • 新浪首頁 語音播報(bào) 相關(guān)新聞 返回頂部