內(nèi)亂前夕,OpenAI研究人員致信董事會(huì),警告AI重大新突破或危及人類

內(nèi)亂前夕,OpenAI研究人員致信董事會(huì),警告AI重大新突破或危及人類
2023年11月23日 14:10 市場資訊

安裝新浪財(cái)經(jīng)客戶端第一時(shí)間接收最全面的市場資訊→【下載地址

專題:OpenAI稱奧特曼將回歸擔(dān)任CEO 并組建新的董事會(huì)

  來源:華爾街見聞

  報(bào)道稱該項(xiàng)技術(shù)突破為此次OpenAI內(nèi)亂導(dǎo)火索,馬斯克評論:該報(bào)道極度令人擔(dān)憂。

  OpenAI“宮斗”大結(jié)局后,Altman“被離職”的原因流出,竟然是因?yàn)橐环庑牛?/p>

  據(jù)知情人士向路透社透露,幾名研究人員在Altman離職的四天前(當(dāng)?shù)貢r(shí)間上周一)向董事會(huì)發(fā)出了一封信,表示一項(xiàng)新發(fā)現(xiàn)可能威脅人類。媒體猜測,這封信成為OpenA此次“宮斗”大戲的導(dǎo)火索。

  知情人士透露:微軟CEO Satya Nadella周三告訴員工,這封有關(guān)AI模型Q*實(shí)現(xiàn)突破的信件促使董事會(huì)采取了行動(dòng)

  報(bào)道發(fā)出后,馬斯克在X平臺(tái)對路透社該篇報(bào)道置評:極度令人擔(dān)憂

  Altman在上周四曾公開透露過這項(xiàng)技術(shù)進(jìn)展。據(jù)知情人士向媒體透露,這項(xiàng)技術(shù)由OpenAI前首席科學(xué)家Ilya Sutskever牽頭,和使用計(jì)算機(jī)生成的數(shù)據(jù)來幫助訓(xùn)練模型有關(guān),而此前大模型訓(xùn)練的數(shù)據(jù)大多源于網(wǎng)絡(luò)個(gè)人數(shù)據(jù)。

  媒體還報(bào)道稱,OpenAI兩位高級(jí)研究人員Jakub Pachocki 和 Szymon Sidor在該技術(shù)基礎(chǔ)上構(gòu)建了模型“Q*”(發(fā)音為 Q-Star),該模型能夠解決此前從未見過的數(shù)學(xué)問題。一些內(nèi)部人士向媒體透露,這或?qū)镺penAI實(shí)現(xiàn)超級(jí)智能(即通用人工智能AGI)尋求突破提供可能性。

  在上周提及這項(xiàng)技術(shù)時(shí),Altman稱其能夠“揭開未知的面紗,推動(dòng)發(fā)展的前沿”。

  不過,還有媒體出面佐證這封信直接導(dǎo)致OpenAI內(nèi)亂,論據(jù)有二:首先是Sutskever對該技術(shù)持保留態(tài)度,領(lǐng)頭參與了這次高調(diào)罷免Altman的風(fēng)波。作為AI保守派,在今年7月時(shí),Sutskever就組建了一個(gè)團(tuán)隊(duì),致力于限制AI潛在的安全威脅。 

  其次是,在Altman離開后,高級(jí)研究員Szymon Sidor、Jakob Pachocki和總裁Greg Brockman相繼辭職的事實(shí)也證實(shí)了雙方在商業(yè)化和安全性方面的觀念分歧。

海量資訊、精準(zhǔn)解讀,盡在新浪財(cái)經(jīng)APP

責(zé)任編輯:周唯

研究人員 AI

VIP課程推薦

加載中...

APP專享直播

1/10

熱門推薦

收起
新浪財(cái)經(jīng)公眾號(hào)
新浪財(cái)經(jīng)公眾號(hào)

24小時(shí)滾動(dòng)播報(bào)最新的財(cái)經(jīng)資訊和視頻,更多粉絲福利掃描二維碼關(guān)注(sinafinance)

股市直播

  • 圖文直播間
  • 視頻直播間

7X24小時(shí)

  • 11-30 永達(dá)股份 001239 --
  • 11-29 中遠(yuǎn)通 301516 --
  • 11-27 艾森股份 688720 --
  • 11-24 錦江航運(yùn) 601083 11.25
  • 11-24 廣廈環(huán)能 873703 23.45
  • 新浪首頁 語音播報(bào) 相關(guān)新聞 返回頂部