馬斯克大戰OpenAI:“開源”之爭,敲響人工智能安全警鐘?

馬斯克大戰OpenAI:“開源”之爭,敲響人工智能安全警鐘?
2024年03月08日 08:57 澎湃新聞

專題:埃隆·馬斯克與他的商業世界

  “美好的愿景是人類和人工智能形成一種共生關系。”山姆·奧特曼說完之后看向埃隆·馬斯克。后者接過話頭,“我同意山姆所說的,我們已經像賽博格一樣工作。不過需要謹慎對待人工智能的發展,確保它最終對人類有利。”

  上述對話發生在9年前,兩人在美國一檔談話節目中相鄰而坐,探討有關未來創新、地外生命、創業精神等廣泛的前沿話題,冷靜地闡述那些雄心勃勃的藍圖。彼時,馬斯克對人工智能(AI)興趣盎然,但因憂慮安全問題而難覓志同道合者。在他眼中,身旁的年輕人不僅是科技孵化器Y Combinator的總裁,還是一名生存主義者,對AI有共同的緊張感。也正是在2015年,他們攜手創辦了一個非營利性人工智能研究實驗室“OpenAI”,對抗以谷歌為代表的科技巨頭。

  然而不到三年,馬斯克以“利益沖突”為由退出OpenAI董事會。事到如今,馬斯克與奧特曼徹底決裂,舊日愿景卻成矛盾焦點。

  今年2月29日,馬斯克突然在舊金山法院對OpenAI及公司首席執行官奧特曼和總裁布羅克曼提起訴訟,他斥責奧特曼違背“初心”,要求OpenAI恢復開源并給予賠償。對此,包括奧特曼在內的OpenAI 五位聯合創始人撰文回應,逐一駁斥各項指控,并曝光了馬斯克與他們的大量往來郵件,試圖證實馬斯克唯利是圖。

  這一場紛爭不僅是馬斯克與奧特曼之間的極限拉扯,也是AI狂潮下科技巨頭們合縱連橫的一個側面,涉及OpenAI背后的“金主”微軟公司,還有馬斯克旗下的特斯拉和人工智能初創公司xAI等。圍觀商斗之外,針對AI未來發展的分歧與辯論或許更值得探究。

  非營利與營利

  馬斯克向舊金山法院提交的訴狀洋洋灑灑寫了35頁,最大“罪狀”指向OpenAI為逐利而放棄了最初使命——“開發造福人類的人工智能技術”。馬斯克聲稱,OpenAI與微軟的合作伙伴關系已將這家公司轉變為微軟“事實上的閉源子公司”,專注于利潤最大化。

  隨后,OpenAI發文反擊:“很遺憾,我們非常敬佩的一個人走到了這一步——他激勵我們設定更高的目標,然后卻告訴我們會走向失敗,而他自己創立了一個競品。當我們在沒有他的情況下開始朝著OpenAI的使命取得有意義的進展時,他又起訴了我們。”短短幾句話濃縮了馬斯克與OpenAI這些年的恩怨情仇。

  OpenAI在3月5日釋放出馬斯克與其聯合創始人的郵件內容,曝光當初所有創始人同意創建一個營利性實體支撐OpenAI運轉,不過馬斯克希望獲得該實體的大部分股權、初始董事會控制權并擔任首席執行官,而其他創始人不同意。隨后馬斯克建議將OpenAI并入特斯拉,OpenAI團隊也拒絕了這個想法,導致雙方決裂。

  著名傳記作家艾薩克森所寫的《埃隆·馬斯克傳》,一部分內容印證了上述說法。書中提到了馬斯克希望在其旗下各家公司發展人工智能能力,試圖說服奧特曼將OpenAI并入特斯拉,理由是當時OpenAI發展3年依然落后于谷歌。

  如今馬斯克和OpenAI互相斥責利欲熏心,商人逐利實則無可厚非,不過馬斯克控訴OpenAI違背了創始協議,即維持這家公司的性質是“非營利”。而奧特曼反指馬斯克未兌現承諾,根據郵件內容,馬斯克稱OpenAI融資規模應該從10億美元起步,并承諾“對于其他人未提供而出現的缺口,我將負責補足。”

  OpenAI在3月5日的發文中表示,作為非營利公司時,收到馬斯克的款項不足4500萬美元,從其他捐助者那里籌集了超過9000萬美元。顯然,這筆數目遠不足以支撐該公司構建通用人工智能(能夠模仿和執行任何人類智能活動,甚至在各種認知任務中表現得比人類更好的人工智能。)的目標。微軟成了救局者。

  就在馬斯克2018年退出OpenAI董事會后,在保持非營利的同時,奧特曼又成立了一個籌集股權基金的營利性部門(但這個營利部門的營收有一個上限。在達到這個上限之后,營利實體所得的一切都要歸還給非營利的研究實驗室。)。一年后,微軟向該公司投資了10億美元,在接下來幾年又陸續投資120億美元,為OpenAI構建生成式人工智能技術的所需買單。作為回報,OpenAI向微軟Azure 云計算產品的客戶提供了多項AI服務。微軟從2023年1月開始對OpenAI持股49%,目前為止仍是最大股東之一,OpenAI的非營利性母公司則持有 2% 的股份。隨著同年聊天機器人ChatGPT問世,微軟股價大漲,并可以順理成章地訪問GPT大語言模型和相關軟件。

  在馬斯克看來,OpenAI走上了背靠微軟營利的道路,與創立時的初心背道而馳。這要追溯到OpenAI成立的2年前,2013年谷歌公司在AI領域率先布局,馬斯克在他42歲的生日派對上,和相識10多年的谷歌創始人拉里·佩奇激烈辯論人工智能的風險,前者主張建立“防火墻”防止AI取代人類,擔憂人類意識消亡。后者不以為然,認為機器的智力和意識超越人類意味著進化的下一階段。

  馬斯克聲嘶力竭卻沒能制止拉里·佩奇的野心。谷歌在2014年1月宣布收購致力于實現通用人工智能(AGI)的公司DeepMind,并為之創建安全委員會,馬斯克作為委員之一對谷歌非常不滿,認為委員會徒有其名,根本不關心AI的安全問題。

  隨著谷歌在AI領域不斷發力,馬斯克四處奔走警告AI對人類生存的威脅,甚至在2015年約到了與時任總統奧巴馬的一對一談話。多年后,他回顧那次會談內容說,沒有借機推廣特斯拉或Space X,而是敦促美國政府推進AI監管,但是沒能引起足夠的重視。

  屢遭挫敗后,馬斯克決定尋找搭檔一起入局AI領域,他找到了比他小14歲的奧特曼,兩人一拍即合,認為提升AI系統安全性的途徑之一是,擁有大量彼此競爭的系統相互制衡。因此他們決定成立一家非營利AI公司,發展一種不受任何個人和公司控制的AI。

  而且,馬斯克給這家公司取名OpenAI,是希望實現真正的開放,讓其他人根據源代碼建立各自的AI系統,以達到制衡目的。而如今,是否開源也成為爭議的焦點。

  OpenAI還是ClosedAI

  “將OpenAI改名為ClosedAI,我就取消訴訟。”當地時間3月6日,馬斯克在社交平臺X上發文,并附上了一張修圖后的照片,畫面中奧特曼手握的工牌上顯示“ClosedAI”圖標。

  馬斯克以此諷刺OpenAI不夠開放,但是開放的精準定義是什么,雙方的看法并不一致。

截屏圖截屏圖

  OpenAI首席科學家伊爾亞·蘇茨克維2016年在電子郵件中寫道:“OpenAI中的開放意味著每個人都應該從人工智能構建后的成果中受益,但也可以不分享科學成果。”馬斯克在回應中回答說:“是的。”OpenAI認為這封郵件足以證實,開放的意義是廣義的,而非絕對的“開源”。

  2023年3月,OpenAI發布了AI語言模型GPT-4,并分享了GPT-4的大量測試結果以及一些有趣的演示,但基本上沒有提供有關用于訓練系統的數據、用于創建該系統的特定硬件或方法的信息。人工智能界的許多人批評了這一做法,指出它破壞了該公司作為研究組織的創始精神。更重要的是,面對GPT-4等人工智能系統構成的威脅,開發有針對性的風險防護措施變得更困難。

  伊爾亞·蘇茨克維在接受美媒采訪時,闡釋了OpenAI不分享更多有關GPT-4信息的原因——對競爭和安全的擔心是“不言而喻的”。就安全考慮,他指出,這些模型非常強大,而且會變得愈發強大。某些時候,一些人如果利用這些模型可以非常容易地制造巨大的傷害。隨著模型能力的提高,不想公開它們也是有道理的“。

  當時,馬斯克就開源問題“約談”奧特曼,稱OpenAI是作為開源的非營利性公司創立,目的是與谷歌抗衡,而現在卻成為“封閉源代碼”的公司,“如今落入了無情的壟斷企業之手”。對此,奧特曼表示自己沒有從這家初創公司大舉獲利,他理解馬斯克的批評是真實的擔憂,但是認為他還沒有完全認識到人工智能安全問題的復雜性。

  堅定的開源主義者不只馬斯克,OpenAI開發者關系負責人洛根(Logan Kilpatrick)也是其中之一。他3月1日在社交平臺上宣布辭職,并發出一番感慨“一個開源的AI對于開發者、商業以及全人類來說都會是一種純粹的勝利。”一些開發者猜測圍繞“開源”的分歧是其離開的原因。此前的 OpenAI“宮斗”之爭,實質上也是關于 AI 發展的“理念之爭”——到底是加速 AI 的商業化進程,還是確保 AI 的安全性再推向全世界。

  不過,此時對于馬斯克而言,針對OpenAI的官司即使打不贏,他仍然有其他“武器”捍衛其堅持的AI安全。

  找出終極問題的答案

  通過訴訟和社交平臺上的大膽發言,馬斯克對OpenAI、谷歌、微軟等科技巨頭一一出拳,像一名角斗士沖入人工智能的戰局,寄希望于他在去年創立的人工智能公司xAI大殺四方。

  在馬斯克的設想中,xAI不僅要打造出能編寫計算機程序的AI機器人,以及一款能與OpenAI的GPT系列聊天機器人匹敵的競品,更重要的是實現“能夠最大限度追求真理的人工智能,他關心對宇宙的理解,帶來的結果是它想要保護人類。”

  毫無疑問,xAI的起步較晚,在這個日新月異的領域處于劣勢,目前為止擁有的唯一值得關注的產品是聊天機器人Grok。xAI團隊強調,Grok比其他聊天機器人更具幽默感,它旨在模仿《銀河系漫游指南》一書,用“一點點的智慧”來回答問題,還有著“一點點的叛逆”。這本書曾將馬斯克從青春期的抑郁狀態中拯救出來,其中將超級計算機的使命定義為“找出關于生命、宇宙和萬物終極問題的答案”。

  目前的Grok跟此前OpenAI發布的GPT-3.5形式差不多,但是測試結果顯示,它在數學、代碼和多學科知識評測中比GPT-3.5表現得更好。而且Grok擁有的先天優勢在于,能夠從X平臺獲取實時信息。

  馬斯克坐擁一筆龐大的數據資產——X平臺(原推特)的信息流,可以用來“喂養”人工智能,接受現實中人類發言和對話信息的訓練。他曾表示,這是收購推特的附加福利。另外,他還有來自特斯拉的導航和視頻數據,可能將使其團隊開發的聊天機器人不限于文本生成。

  據美媒報道,馬斯克計劃在3月下旬通過一輪私人融資籌集10億至30億美元,他個人可能也會進行投資,屆時xAI估值可能高達200億美元。但是今年早些時候,面對媒體的詢問,馬斯克一再否認xAI 正在籌集資金。即使達到200億美元的估值,仍然只是OpenAI目前的一小部分。今年2月,隨著OpenAI與風險投資公司Thrive capital達成最新股票出售協議,OpenAI的估值已經提高到800億美元以上。

  活躍在當今輿論場上的馬斯克有時看起來像不可理喻的怪咖,語出驚人、四面樹敵,有時又像天真的孩童對科學充滿好奇和無邊無際的想法。圍繞人工智能,他對于安全性的執念難以被評判,但其警示的該領域的未來發展不容忽視。

  “要讓人工智能幫助我們了解宇宙的真正本質,它必須能夠摒棄流行卻錯誤的東西,而選擇不流行但正確的東西。”馬斯克3月5日在x平臺上說道。

  (澎湃新聞記者陳文靜對本文亦有貢獻)

股市回暖,抄底炒股先開戶!智能定投、條件單、個股雷達……送給你>>
海量資訊、精準解讀,盡在新浪財經APP

責任編輯:江鈺涵

VIP課程推薦

加載中...

APP專享直播

1/10

熱門推薦

收起
新浪財經公眾號
新浪財經公眾號

24小時滾動播報最新的財經資訊和視頻,更多粉絲福利掃描二維碼關注(sinafinance)

股市直播

  • 圖文直播間
  • 視頻直播間

7X24小時

  • 04-01 宏鑫科技 301539 --
  • 03-29 燦芯股份 688691 --
  • 03-27 無錫鼎邦 872931 6.2
  • 03-25 中瑞股份 301587 21.73
  • 03-22 廣合科技 001389 17.43
  • 新浪首頁 語音播報 相關新聞 返回頂部