《紐約客》萬字長文還原OpenAI“宮斗”內幕

《紐約客》萬字長文還原OpenAI“宮斗”內幕
2023年12月03日 11:57 市場資訊

安裝新浪財經客戶端第一時間接收最全面的市場資訊→【下載地址

  據國外媒體《紐約客》(The New Yorker)報道,在人工智能初創公司OpenAI上月發生的“宮斗”事件之前,該公司與微軟已經制定出一個雄心勃勃但安全地發布人工智能的協議。但是OpenAI的時任董事會徹底打亂了微軟與OpenAI精心布局的計劃。

  以下為文章全文:

  今年感恩節前的周五(11月17日),上午11點30分左右,微軟首席執行官薩提亞·納德拉(Satya Nadella)正在與公司高層進行每周例會,這時一位驚慌失措的同事讓他接電話。人工智能初創公司OpenAI的一名高管打電話解釋說,在接下來的20分鐘內,公司董事會將宣布解雇OpenAI聯合創始人、首席執行官山姆·奧特曼(Sam Altman)。這也是OpenAI為期五天的“宮斗”戲的開始。微軟內部把OpenAI的這場危機戲稱為“一邊倒的鬧劇”(the Turkey-Shoot Clusterfuck)。

  舉止隨和的納德拉當時感到異常驚訝,以至于一時不知道該說什么。他與奧特曼密切合作了四年多,并開始欣賞和信任他。此外,他們的合作剛剛推動微軟舉辦了十年來最大規模的發布會:眾多建立在OpenAI的技術之上的尖端人工智能助手,并把它們集成到微軟的核心生產力應用程序中,如Word、Outlook和PowerPoint。這些助手本質上是OpenAI備受稱贊的ChatGPT的特化和更強大的版本,被稱為Office Copilots。

  然而納德拉不知道的是,奧特曼和OpenAI董事會之間的關系出現了問題。董事會六名成員中的一些人發現奧特曼“狡猾而奸詐”——這些品質在科技公司的首席執行官中很常見,但對于有學術界或非營利組織背景的董事會成員來說卻令人不悅。“他們覺得奧特曼撒了謊,”一位熟悉董事會討論的人士表示。這些緊張關系現在在納德拉面前爆發,威脅到一個至關重要的伙伴關系。

  多年來,微軟一直沒有站在科技行業的最前沿,但它與OpenAI的聯盟——OpenAI最初是一家于2015年成立的非營利組織,但四年后增加了一個營利部門——讓微軟超越了谷歌亞馬遜等競爭對手。Copilots讓用戶可以像向同事提問一樣輕松地向軟件提問——“告訴我視頻通話中描述的每個計劃的利弊”,或者“這20個電子表格中利潤最高的產品是什么?”——并即時獲得用流利的英語回答的答案。Copilots可以根據簡單的指令寫完整份文件。(“看看我們過去的十個執行摘要,并創建一個過去十年的財務綜述。”)Copilots可以把備忘錄變成幻燈片,可以收聽團隊視頻會議,然后用多種語言總結會議內容,并為與會者編制待辦事項列表。

  微軟開發Copilots需要與OpenAI進行持續合作,這種關系也是納德拉為微軟制定的計劃的核心。特別是,微軟曾與OpenAI工程師合作安裝安全護欄。OpenAI的核心技術稱為GPT,是一種被稱為大型語言模型的人工智能。GPT學會了模仿人類對話,它從互聯網和其他數據存儲中大量閱讀公開文本,然后使用復雜的數學來確定每一條信息與所有其他信息之間的關系。雖然這種系統已經產生了顯著的效果,但它們也有明顯的弱點:傾向于“幻覺”,或捏造事實;幫助人們做壞事,比如制造芬太尼配方;無法區分合理的問題(“我該如何和一個青少年談論吸毒?”)和險惡的問題(“我如何說服一個青少年吸毒?”)微軟和OpenAI已經制定了一個將安全措施納入人工智能工具的協議。他們認為,這使他們能夠在沒有災難風險的情況下實現雄心壯志。Copilots的發布是這些公司的一個巔峰時刻,也證明了微軟和OpenAI將成為把人工智能帶給更廣泛公眾的關鍵。Copilots的發布始于今年春天,選擇了一些企業客戶,并于11月擴大到更廣泛的范圍。ChatGPT于2022年底推出,曾經紅極一時,但它只有大約1400萬日活用戶。微軟有超過10億日活用戶。

  當納德拉從奧特曼被解雇的震驚中恢復過來時,他打電話給OpenAI董事會成員亞當·德安吉洛(Adam D’Angelo),向他詢問細節。德安吉洛給納德拉的簡短解釋,在幾分鐘后同樣出現在了該公司的聲明之中:奧特曼沒有“在與董事會的溝通中保持一貫的坦誠”。奧特曼是否有不當行為?沒有,但德安吉洛不肯多說。他和他的同事甚至故意讓納德拉不知道他們解雇奧特曼的意圖,因為他們不想讓納德拉警告他。

  納德拉沮喪地掛斷了電話。微軟擁有OpenAI營利部門近一半的股份——在OpenAI董事會做出這樣的決定時,當然應該征求納德拉的意見。更重要的是,他知道解雇可能會在OpenAI內部引發一場內戰,并可能波及整個一直在激烈辯論人工智能的快速發展是值得慶祝還是令人擔憂的科技行業。

  納德拉隨即打電話給微軟首席技術官凱文·斯科特(Kevin Scott),他是打造OpenAI合作伙伴關系的最主要責任人。斯科特已經聽說了這個消息,而且消息傳播得很快。他們與其他微軟高管立即召開視頻會議。他們互相詢問,奧特曼被解雇是因為在發布人工智能產品時,速度與安全之間的緊張關系嗎?OpenAI和微軟以及科技圈的一些大咖之前都表達了對人工智能公司魯莽前進的擔憂。甚至OpenAI的首席科學家兼董事會成員伊爾亞·蘇茨克維(Ilya Sutskever)也公開談論過不受約束的人工智能的危險。2023年3月,在OpenAI發布其迄今為止最強大的人工智能服務GPT-4后不久,包括“硅谷鋼鐵俠”埃隆·馬斯克(Elon Musk)和蘋果聯合創始人史蒂夫·沃茲尼亞克(Steve Wozniak)在內的數千人曾聯名簽署了一封公開信,呼吁暫停訓練高級人工智能模型。“我們應該讓機器用宣傳和謊言淹沒我們的信息渠道嗎?”這封信中反問。“我們應該冒著讓我們文明失控的風險嗎?”許多硅谷觀察家認為,這封信實質上就是對OpenAI和微軟的指責。

  在某種程度上,斯科特尊重他們的擔憂。他認為,對于那些知道自己希望計算機做什么,但缺乏實現它的培訓的人而言,圍繞人工智能的討論一直奇怪地集中在科幻小說的場景上——計算機摧毀了人類——并且在很大程度上忽視了該技術“創造公平競爭環境”的潛力。斯科特覺得如果人工智能是以足夠的謹慎和足夠的耐心建立起來的話,它會有能力用簡單的語言與用戶交流,可以成為一種變革和平衡的力量。

  斯科特和他在OpenAI的合作伙伴已經決定緩慢但持續地發布人工智能產品:微軟將觀察未受教育的用戶如何與該技術互動,而用戶將自學該技術的優勢和局限性。通過發布公認不完美的人工智能軟件,并從客戶那里獲得坦率的反饋,微軟找到了一種既能改進技術又能在用戶中培養懷疑的實用主義的方法。斯科特認為,管理人工智能危險的最佳方式是對盡可能多的人盡可能透明,并讓這項技術逐漸滲透到我們的生活中——從單調的用途開始。還有什么比通過文字處理器這樣不性感的東西來教人類使用人工智能更好的方法呢?

  斯科特所有的謹慎定位都因奧特曼被解雇變得岌岌可危。隨著越來越多的人知道奧特曼被解雇,OpenAI的員工——他們對奧特曼和OpenAI的使命的信仰近乎狂熱——開始在網上表達出沮喪之情。這家初創公司的首席技術官米拉·穆拉蒂(Mira Murati)隨后被任命為臨時首席執行官,但她并沒有熱情地接受了這個角色。很快,OpenAI總裁格雷格·布羅克曼(Greg Brockman)在社交平臺X上說:“我不干了。”其他OpenAI員工也開始威脅著要辭職。

  在與納德拉的視頻通話中,微軟高管開始討論對奧特曼下臺的可能回應。A計劃是試圖通過支持穆拉蒂來穩定局勢,然后與她合作,看看這家初創公司的董事會是否會改變決定,或者至少對其輕率的舉動進行解釋。

  如果OpenAI董事會拒不遵從,微軟高管將實施B計劃:利用其巨大的影響力,包括承諾給OpenAI但尚未打款的數十億美元,幫助奧特曼重新擔任首席執行官并重塑OpenAI的治理結構,方法是更換董事會成員。知情人士表示,在當時的會議中,微軟高管提到:“從我們的角度來看,事情一直進展得很好,而OpenAI的董事會做了一些不穩定的事情,所以我們想,‘讓一些成年人來負責,回到我們所擁有的一切。’”

  如果以上兩個計劃都失敗,C計劃將是微軟聘用奧特曼及其最有天賦的同事,在微軟內部重新建立OpenAI。在這種情況下,這家軟件巨頭將擁有所有出現的新技術,意味著它可以把這些技術出售給其他人——這可能會狠狠賺上一筆。

  參與視頻通話中的團隊認為,這三個計劃都很有力。但是微軟的目的還是讓一切恢復正常。這種策略背后的信念是,微軟已經搞清楚了開發負責任人工智能所需的方法、安全保障和框架中的一些重要內容。無論奧特曼發生了什么,公司都在根據自己的藍圖推進人工智能的普及。

  01 與OpenAI合作的關鍵人物

  斯科特確信人工智能可以改變世界,這是因為技術已經徹底改變了他自己的生活。他在弗吉尼亞州格拉迪斯(Gladys)長大,這是一個離南北戰爭時期南方主將李將軍向格蘭特投降的地方不遠的小社區。他家里沒有人上過大學,醫療保險幾乎是一個陌生的概念。作為一個男孩,斯科特有時依賴鄰居的食物。他的父親是一名越南獸醫,曾嘗試著經營過加油站、便利店、卡車運輸公司和各種建筑企業,但都以失敗告終,并兩次宣布破產。

  斯科特想要一種不同的生活。他的父母以每月分期付款的方式給他買了一套百科全書,斯科特像大型語言模型Avant La Lettre一樣,把這套書從頭到尾閱讀了一遍。為了好玩,他拆開了家中的烤面包機和食物攪拌器。他攢夠了錢,買得起Radio Shack最便宜的電腦,然后通過查閱圖書館書籍學會了編程。

  在斯科特1972年出生前的幾十年里,格拉迪斯周圍的地區是家具和紡織廠的所在地。到他青春期時,大部分制造業都轉移到了海外。技術——供應鏈自動化,和電信的進步表面上是罪魁禍首,因為它們使得在海外生產商品變得更加容易,那里的日常開支更便宜。但是,即使在十幾歲的時候,斯科特也覺得技術不是真正的罪魁禍首。“這個國家告訴自己,外包是不可避免的,”斯科特今年9月接受采訪時曾表示。“我們可以告訴自己失去制造業的社會和政治負面影響,或者保護社區的重要性。但那些從未真正成為現實。”

  在進入林奇堡學院(一所隸屬于基督門徒的當地學校)后,斯科特獲得了維克森林大學的計算機科學碩士學位,并于1998年開始在弗吉尼亞大學攻讀博士學位。他對人工智能很著迷,但他了解到許多計算機科學家將其視為等同于占星術。早期創造人工智能的各種嘗試都失敗了,這個領域有勇無謀的觀念在學術部門和軟件公司根深蒂固。許多頂級思想家已經放棄了這門學科。在2000年,一些學者試圖通過將人工智能研究重新命名為“深度學習”來復興它。但懷疑論持續存在:在2007年的一次人工智能會議上,一些計算機科學家制作了一個惡搞視頻,暗示深度學習人群是由邪教徒組成的。

  當斯科特攻讀博士學位時,他注意到他遇到的一些最優秀的工程師強調了成為短期悲觀主義者和長期樂觀主義者的重要性。“這幾乎是必須的,”斯科特說。“你看到世界上所有破碎的東西,而你的工作就是努力修復它。”即使工程師們認為他們嘗試的大部分都不會成功,而且一些嘗試可能會讓事情變得更糟,他們也“必須相信他們可以解決問題,直到事情最終變得更好。”

  2003年,斯科特從他的博士項目中請假加盟谷歌,在那里他負責監督移動廣告工程。幾年后,他從谷歌辭職,在移動廣告初創公司AdMob負責工程和運營,谷歌后來以7.5億美元收購了這家公司。斯科特隨后跳槽到領英,在那里他因異常擅長以既鼓舞人心又現實的方式構建雄心勃勃的項目而聞名,2016年,領英被微軟收購,斯科特也隨之加入了微軟。

  那時的斯科特已經非常富有,但在技術圈里卻鮮為人知,因為他喜歡“匿名”。他曾計劃在微軟收購完成后離開領英,但2014年成為微軟首席執行官的納德拉敦促他重新考慮。納德拉分享了一些讓斯科特對人工智能感到好奇的信息,部分由于更快的微處理器,該領域當時的發展讓這項技術身名鵲起:Facebook已經開發了復雜的面部識別系統;谷歌建立了一個能夠熟練翻譯語言的人工智能。納德拉很快宣布,在微軟,人工智能“將決定我們未來的所有行動。”

  斯科特不確定他和納德拉是否有相同的抱負。他給納德拉發了一份備忘錄,解釋說如果他留下來,他希望自己的部分議程是提升那些通常被科技行業忽視的人。斯科特希望人工智能能夠幫助那些聰明但沒有接受過數字教育的人,他就是在這些人中長大的。這是一個引人注目的論點——一些技術專家會認為這是故意的嗎?鑒于人們普遍擔心人工智能輔助的自動化會消除雜貨店收銀員、工廠工人或電影臨時演員等工作。

  然而,斯科特相信一個更樂觀的故事。他在接受采訪時表示,曾經有一段時間,大約70%的美國人從事農業工作。技術進步減少了對勞動力的需求,如今只有1.2%的勞動力務農。但這并不意味著有數百萬農民失業:許多這樣的人成為卡車司機,或回到學校成為會計師,或找到其他道路。斯科特表示,“也許在更大程度上,人工智能比之前的任何技術革命都更能用來重振美國夢。”他覺得,在弗吉尼亞州經營一家養老院的童年好友可以利用人工智能來處理她與醫療保險和醫療補助的互動,讓該機構專注于日常護理。另一個朋友在一家為主題公園制造精密塑料部件的商店工作,他可以利用人工智能來幫助他制造部件。斯科特認為,人工智能可以通過將“有贏家和輸家的零和交易轉變為非零和進步,讓社會變得更好。”

  納德拉讀了備忘錄,正如斯科特所說:“是的,聽起來不錯。”一周后,斯科特被任命為微軟的首席技術官。

  如果斯科特希望微軟領導人工智能革命,他必須幫助該公司超越谷歌。谷歌通過向幾乎任何人提供數百萬美元來拉攏人工智能領域的人才,哪怕他們只是取得了一個小小的突破。在過去的20年里,微軟一直試圖通過在內部人工智能項目上花費數億美元來與谷歌競爭,但收效甚微。微軟高管們開始認為,像微軟這樣巨大的公司——擁有超過20萬名員工和龐大的官僚體系——不具備人工智能發展所需的靈活性和動力。“有時候越小越好,”斯科特在接受采訪時說。

  在這種情況下,斯科特開始關注各種創業公司,其中一家脫穎而出:OpenAI。這家公司的使命是要確保“通用人工智能——我們指的是在最具經濟價值的工作中超越人類的高度自治系統——造福全人類。”在此之前,微軟和OpenAI已經建立起了合作關系:這家初創公司使用了微軟的云計算平臺Azure。2018年3月,斯科特在這家位于舊金山的初創公司安排了一次與一些員工的會面。他很高興見到幾十個年輕人,他們拒絕了大型科技公司的數百萬美元薪酬,為一個承諾其發明不會“傷害人類或過度集權”的組織每天工作18小時。該公司首席科學家蘇茨克維特別關注為人工智能的出現做準備,人工智能如此復雜,可能會解決人類的大多數問題——或者導致大規模的破壞和絕望。

  與此同時,奧特曼是一位有魅力的企業家,他決心讓人工智能變得有用和賺錢。斯科特認為,這家初創公司的敏感性非常理想。他表示,OpenAI致力于“將能量導向影響最大的事物。他們有一種真正的文化,即‘這是我們正在努力做的事情,這些是我們正在努力解決的問題,一旦我們發現什么可行,我們就會加倍努力。’他們對未來有一套自己的理論。”

  OpenAI當時已經取得了令人矚目的成果:它的研究人員創造了一只機器人手,可以玩魔方,即使遇到以前沒有遇到過的挑戰,比如把它的一些手指綁在一起。然而,最讓斯科特興奮的是,在隨后的一次會議上,OpenAI的管理層告訴他,他們已經放棄了機器人手,因為它不夠有前途。“最聰明的人有時最難管理,因為他們有一千個絕妙的主意,”斯科特說。但該公司的員工對他們的工作幾乎充滿了救世主般的熱情。在今年7月斯科特遇到蘇茨克維后不久,蘇茨克維向斯科特說,人工智能將“顛覆人類生活的每一個領域”,這可能會使醫療保健等領域比現在“好一億倍”。這種自信嚇跑了一些潛在投資者,但斯科特覺得這很吸引人。

  這種樂觀與當時彌漫在微軟的陰郁氣氛形成了鮮明對比。一位微軟前高管表示:“每個人都認為人工智能是一場數據游戲,谷歌擁有更多數據,微軟處于永遠無法縮小的巨大劣勢。”該高管補充說,“我記得當時感到非常絕望,直到斯科特說服我們,還有另一種方式來玩這個游戲。”微軟和OpenAI之間的文化差異使他們成為特殊的合作伙伴。但對斯科特和在成為OpenAI的首席執行官之前曾領導創業加速器Y Combinator的奧特曼來說,聯手是非常明智的。

  納德拉、斯科特和微軟的其他人愿意容忍這些奇怪的事情,因為他們相信,如果他們能夠用OpenAI技術強化自己的產品,并利用初創公司的天賦和雄心,他們將在人工智能競賽中獲得顯著優勢。2019年,微軟同意向OpenAI投資10億美元。從那以后,微軟實際上獲得了OpenAI營利部門49%的股份,以及將OpenAI過去和未來的發明商業化的權利,包括在Word、Excel、Outlook、以及Skype和Xbox游戲機等產品,都可以應用OpenAI的技術。

  02 貧困中長大的穆拉蒂

  納德拉和斯科特對這項投資的信心是由他們與奧特曼、蘇茨克維和首席技術官穆拉蒂形成的紐帶支撐的。斯科特特別重視與穆拉蒂的關系。像他一樣,她也是在貧困中長大的。她1988年出生于阿爾巴尼亞,經歷了黑幫資本主義的興起和內戰的爆發。她通過參加數學競賽來應對這一巨變。

  當穆拉蒂16歲時,她獲得了加拿大一所私立學校的獎學金,在那里她表現出色。“我童年的很多時光充斥著警笛聲、槍擊案以及其他可怕的事情,”穆拉蒂在今年夏天接受采訪時說。“但是仍然有快樂的生日、少女的單相思和知識的海洋。這教會你一種堅韌的品德——相信如果你繼續努力,事情會變得更好。”

  穆拉蒂在達特茅斯大學學習機械工程,期間加入了一個研究團隊,該團隊正在建造一輛由超級電容器電池供電的賽車,這種電池能夠產生巨大的能量爆發。其他研究人員認為超級電容器不切實際;還有一些人追求更深奧的技術。穆拉蒂認為這兩種觀點都太過極端。這樣的人永遠不可能穿越彈坑到達她的學校。穆拉蒂說,你必須是一個樂觀主義者和現實主義者,“有時人們會把樂觀主義誤解為粗心的理想主義。但這必須經過充分的考慮和深思熟慮,要有很多護欄——否則,你會冒很大的風險。”

  畢業后,穆拉蒂加入了特斯拉,然后在2018年加入了OpenAI。斯科特表示,他同意十億美元投資的一個原因是他“從未見過穆拉蒂慌張的樣子。”他們開始討論如何使用超級計算機來訓練各種大型語言模型。

  兩家公司很快就建立并運行了一個系統,結果令人印象深刻:OpenAI訓練了一個機器人,它可以生成令人驚嘆的圖像,以響應諸如“給我看狒狒在耶穌旁邊扔披薩,以馬蒂斯的風格呈現”的提示。另一個創造GPT,能夠用英語會話回答任何問題——即使不總是正確的。但目前還不清楚普通人如何將這種技術用于除了無所事事的娛樂之外的任何事情,也不清楚微軟如何收回投資。今年年初又有消息稱,微軟的投資將增加至100億美元。

  2019年的一天,一位名為達里奧·阿莫代伊(Dario Amodei)的OpenAI副總裁向他的同行展示了一件非凡的事情:他向GPT輸入了一個軟件程序的一部分,并要求系統完成編程。它幾乎立刻就這么做了(使用了阿莫代伊自己沒有計劃使用的技術)。沒有人能確切地說出人工智能是如何做到這一點的——大型語言模型基本上是一個黑盒。GPT的實際代碼相對較少;它的答案是一個字一個字地基于數十億的數學“權重”,根據復雜的概率決定下一步應該輸出什么。在回答用戶的問題時,不可能繪制出模型建立的所有聯系。

  對OpenAI內部的一些人來說,GPT神秘的編程能力令人恐懼——畢竟,這是《終結者》等反烏托邦電影的場景。當員工們注意到,盡管GPT技術高超,但有時還是會犯編程錯誤,這幾乎令人振奮。在了解到GPT的編程能力后,斯科特和穆拉蒂感到有些擔心,但更多的是興奮感。他們一直在尋找人工智能的實際應用,人們可能會付費使用。

  03 Copilot的誕生

  5年前,微軟收購了GitHub,其原因與它投資OpenAI的原因大致相同。GitHub的文化年輕且快速發展,不受傳統和正統文化束縛。被收購后,它成為微軟內部的一個獨立部門,擁有自己的首席執行官和獨立決策權。事實證明該策略是成功的,GitHub深受軟件工程師的喜愛,其用戶數量增長到了一億多。

  因此,斯科特和穆拉蒂在尋找一個可能會對能夠自動完成代碼的工具感到興奮的微軟部門——即使它偶爾會出錯——他們轉向GitHub的首席執行官納特·弗里德曼(Nat Friedman)。畢竟,發布在GitHub上的代碼有時會包含錯誤;用戶已經學會解決不完美的地方。弗里德曼說他想要這個工具。他指出,GitHub只需要想出一種方法來告訴人們,他們不能完全信任自動完成功能。GitHub員工集體討論了該產品的名稱:Coding Autopilot、Automated Pair Programmer、Programarama Automat。弗里德曼是一名業余飛行員,他和其他人認為這些名稱錯誤地暗示該工具可以完成所有工作。而這個工具更像是一個副駕駛——一個和你一起進入駕駛艙并提出建議的人,同時偶爾也會提出一些不合時宜的建議。通常你會聽副駕駛的意見;有時你會選擇忽略。當斯科特聽到弗里德曼最喜歡的名字——GitHub Copilot時,他很喜歡這個名字。斯科特說:“這個名稱完美地傳達了它的優點和缺點。”

  但當GitHub準備在2021年推出Copilot時,微軟其他部門的一些高管提出抗議,認為該工具偶爾會產生錯誤,會損害微軟的聲譽。“這是一場激烈的戰斗,”弗里德曼告訴我。“但我是GitHub的首席執行官,我知道這是一個很棒的產品,所以我發布了它。”當GitHub Copilot發布后,立即大獲成功。“Copilot簡直讓我大吃一驚,”一名用戶在發布幾小時后發推文說。“這是魔法!!!”另一個貼子說。微軟開始對該應用程序收取每月10美元的費用;不到一年,GitHub的年收入就超過了一億美元。該部門的獨立性得到了回報。

  但是GitHub Copilot也引起了不太積極的反應。在留言板上,程序員推測,如果有人太懶或太無知而沒有在部署自動完成的代碼之前檢查它,這種技術可能會蠶食他們的工作,或者給網絡恐怖分子提供動力,或者引發混亂。包括一些人工智能先驅在內的知名學者引用了已故的斯蒂芬·霍金(Stephen Hawking)在2014年的聲明,即“全人工智能可能意味著人類的終結。”

  令人震驚的是,GitHub Copilot的用戶發現了如此多的災難性可能性。但GitHub和OpenAI的高管們也注意到,人們使用這個工具越多,他們對它的能力和局限性的理解就越微妙。“使用一段時間后,你會對它擅長什么和不擅長什么有一種直覺,”弗里德曼說。“你的大腦會學習如何正確使用它.”

  微軟高管認為,他們找到了一個既有魄力又負責任的人工智能發展戰略。斯科特開始寫一份備忘錄,題為《人工智能Copilot的時代》,于2023年初發送給微軟的技術領導人。斯科特寫道,重要的是,微軟為向世界解釋這項技術找到了一個強有力的比喻:“Copilot做的正是名字所暗示的;對于試圖完成復雜任務的用戶來說,它是一個專家助手……Copilot可以幫助用戶了解其能力的極限。”

  在ChatGPT發布后,它讓大多數人了解了人工智能,并迅速成為歷史上增長最快的消費級應用程序。但是斯科特可以預見未來:機器和人類通過自然語言進行互動;人們,包括那些對編程一無所知的人,僅僅通過說出他們想法來給計算機編程。這是他一直追求的公平競爭環境。正如OpenAI的聯合創始人在社交媒體上所說:“最熱門的新編程語言是英語。”

  斯科特寫道:“在我的職業生涯中,我從未經歷過我的領域發生如此大變化的時刻,重新想象可能性的機會如此現實和令人興奮。”下一個任務是將GitHub Copilot——一款精品產品——的成功應用于微軟最受歡迎的軟件。這些Copilot的引擎將是一項新的OpenAI發明:一個大型語言模型。OpenAI稱之為GPT-4。

  微軟多年前曾試圖將人工智能帶給大眾,但最終尷尬的以失敗收場。1996年,該公司發布了Clippy,這是其辦公產品的“助手”。Clippy在屏幕上顯示為一個有著卡通大眼睛的紙夾,看似隨機地彈出,詢問用戶是否需要幫助來寫信、打開PowerPoint或完成其他任務。杰出的軟件設計師艾蘭·庫伯(Alan Cooper)后來說,Clippy的設計是基于對研究的“悲劇性誤解”,研究表明人們可能會更好地與似乎有情感的計算機互動。用戶當然對Clippy有情緒:他們討厭它。史密森尼稱之為“計算機史上最糟糕的軟件設計失誤之一。”2007年,微軟砍掉了Clippy。

  9年后,微軟創造了人工智能聊天機器人Tay,旨在模仿一個十幾歲女孩的語調和注意力,目的是為了與推特用戶互動。Tay幾乎立即開始發布種族主義、性別歧視和同性戀恐懼的內容,包括“希特勒是對的”的聲明。在發布后的第一個16小時內,Tay發布了96000次,此時微軟意識到這是一場公關災難,將其關閉。

  到2022年底,微軟高管們覺得已經準備好開始為Word、Excel和其他產品開發Copilots了。但微軟明白,就像法律是不斷變化的一樣,即使在產品發布后,產生新的保護措施的需求也會不斷增加。人工智能工程主管莎拉·伯德(Sarah Bird)和斯科特經常因這項技術的失誤而感到汗顏。在疫情期間,當他們測試另一項OpenAI發明圖像生成器Dall-E 2時,他們發現如果要求系統創建與新冠肺炎有關的圖像,它通常會輸出貨架被搶空的圖片。一些微軟員工擔心這樣的圖像會加劇人們對疫情導致經濟崩潰的擔憂,他們建議改變產品的安全措施以抑制這種趨勢。但微軟的其他人認為這些擔憂是愚蠢的,不值得軟件工程師花費時間。

  斯科特和伯德決定在有限的公開發布中測試這個場景,而不是裁定這個內部辯論。他們推出了一個版本的圖像生成器,然后等著看用戶是否會因為看到屏幕上的空貨架而感到不安。他們不會為一個沒有人確定存在的問題設計一個解決方案——就像一個眼睛瞪得圓圓的回形針幫助你瀏覽一個你已經知道如何使用的文字處理器——他們只會在必要時增加一個緩解措施。在監控社交媒體和互聯網的其他角落,并收集用戶的直接反饋后,斯科特和伯德得出結論,這些擔憂是沒有根據的。“你必須在公共場合進行實驗,”斯科特說。“你不能試圖自己找到所有的答案,并希望你把一切都做對。我們必須學會如何一起使用這些東西,否則我們誰也搞不懂。”

  2023年初,微軟準備發布首次將GPT-4集成到微軟品牌產品中:搜索引擎必應。集成人工智能技術的必應受到熱烈歡迎,下載量猛增了八倍。納德拉開玩笑說微軟打敗了“800磅重的大猩猩”,以此來嘲諷谷歌。(盡管這項創新令人印象深刻,但就市場份額而言并沒有多大意義:谷歌仍然占據90%以上的搜索份額。)

  必應只是一個微軟議程上的一個開端。隨后微軟開始在其他產品中推出Copilot。今年春天,當微軟最終開始推出Copilots時,版本的發布是小心翼翼地錯開的。最初,只有大公司才能使用這項技術;隨著微軟了解這些客戶如何使用它并開發出更好的保護措施,它才會被提供給越來越多的用戶。截至11月15日,已有數萬人在使用Copilots,預計很快會有數百萬人注冊。

  在此兩天之后,納德拉忽聞奧特曼被解雇。OpenAI董事會的一些成員發現奧特曼是一個狡猾得令人不安的操縱者。例如,今年秋初,他與喬治敦大學安全和新興技術中心主任海倫·托納(Helen Toner)對質,因為她與人合寫了一篇論文,似乎批評OpenAI“助長了人工智能炒作的火焰”。托納為自己辯護(盡管她后來向董事會道歉,沒有預料到這篇論文會被怎樣看待)。奧特曼開始單獨接觸其他董事會成員,討論替換她的問題。當這些成員交換談話記錄時,一些人認為奧特曲解成他們支持解除托納職務。“他會在其他人的想法上撒謊,讓他們互相爭斗,”熟悉董事會討論的人士透露。“這樣的事情已經發生多年了。”(一位熟悉奧特曼觀點的人士表示,他承認“試圖讓一名董事會成員下臺的方式很笨拙”,但他沒有企圖操縱董事會。)

  04 微軟的A、B、C計劃

  奧特曼被認為是一個精明的企業斗士。這在過去對OpenAI很有幫助:2018年,他阻止了早期董事會成員馬斯克收購OpenAI的沖動。奧特曼控制信息和操縱認知的能力——公開的和秘密的——吸引了風險資本家通過投資各種創業公司來相互競爭。他的戰術技巧如此令人畏懼,以至于當董事會的四名成員——托納、德安吉洛、蘇茨克維和塔莎·麥考利(Tasha McCauley)——開始討論罷免他時,他們決心保證讓他措手不及。“很明顯,一旦山姆知道了,他會盡一切可能削弱董事會,”熟悉這些討論的人士說。

  不高興的董事會成員覺得OpenAI的任務要求他們對人工智能變得太危險保持警惕,他們認為奧特曼在位的情況下,他們無法履行這一職責。“任務是多方面的,要確保人工智能造福全人類,但如果不能讓首席執行官負起責任,沒人能做到,”另一名了解董事會想法的人說。奧特曼看問題的角度不同。熟悉他的觀點的人說,他和董事會進行了“非常正常和健康的董事會辯論”,但一些董事會成員不熟悉商業規范,并被他們的責任所嚇倒。這個人說,“我們每向人工智能靠近一步,每個人都要承受10分的精神錯亂。”

  很難說董事會成員更害怕有感知能力的計算機,還是擔心奧特曼擅作主張。但不管怎樣,董事會最終選擇了先發制人,他們誤以為微軟會和他們站在一起,共同把奧特曼當做目標,支持他們的罷免決定。

  納德拉得知奧特曼被解雇的消息并召集斯科特和其他高管召開視頻會議后不久,微軟開始執行A計劃:支持穆拉蒂擔任臨時首席執行官以穩定局勢,同時試圖查明董事會為何如此沖動。納德拉已經批準發布一份聲明,強調“在我們將人工智能的下一個時代帶給我們的客戶時,微軟仍然致力于米拉和他們的團隊”,并在他的個人X和LinkedIn賬戶上表達了同樣的觀點。他與穆拉蒂保持著頻繁的聯系,以便及時了解她從董事會掌握的信息。

  答案是:不多。在奧特曼被解雇的前一天晚上,董事會通知了穆拉蒂他們的決定,并得到了她保持沉默的承諾。他們認為她的同意意味著她支持解雇奧特曼,或者至少不會反對董事會,他們還認為其他員工也會同意。他們錯了。在內部,穆拉蒂和其他OpenAI高管表達了他們的不滿,一些員工認為董事會的行動是一次政變。OpenAI的員工向董事會成員提出尖銳的問題,但董事會幾乎沒有回應。兩名熟悉董事會想法的人士表示,出于保密的考慮,董事會成員感到必須保持沉默。此外,隨著奧特曼下臺成為全球新聞,董事會成員感到不知所措,“與任何人接觸的帶寬有限,包括微軟。”

  奧特曼被解雇的第二天,OpenAI的首席運營官布拉德·萊特卡普(Brad Lightcap)發送了一份全公司備忘錄,稱他了解到“董事會的決定不是為了應對瀆職或任何與我們的財務、業務、安全或安全/隱私實踐相關的事情。”他接著說,“這是山姆和董事會之間溝通的中斷。”但是,每當有人要求奧特曼舉例說明他沒有像董事會最初抱怨的那樣“在溝通中一貫坦誠”,董事會成員都保持沉默,甚至拒絕提及奧特曼反對托勒的運動。

  在微軟內部,整個事件看起來愚蠢得令人難以置信。據報道,到目前為止,OpenAI價值約800億美元。該公司的一位高管表示:“除非OpenAI董事會的目標是毀滅整個公司,否則他們似乎總是莫名其妙地在每次做決定時做出最糟糕的選擇。”即使其他OpenAI員工在總裁布羅克曼的帶領下公開辭職,董事會仍然保持沉默。

  A計劃顯然失敗了。因此,微軟的高管們轉向了B計劃:納德拉開始與穆拉蒂協商,看是否有辦法恢復奧特曼的首席執行官職位。在此期間,板球世界杯正在進行,納德拉鐘愛的印度隊在決賽中對陣澳大利亞隊。納德拉偶爾會在社交平臺X上發帖報告賽事的最新進展,希望緩解緊張的氛圍,但他的許多同事不知道他在說什么。

  OpenAI員工威脅要反抗。穆拉蒂和這家初創公司的其他人在微軟的支持下,開始敦促所有董事會成員辭職。最終,他們中的一些人同意離開,只要他們認為替代者可以接受。他們表示,他們甚至可能對奧特曼的回歸持開放態度,只要他不是首席執行官,并且沒有獲得董事會席位。到了感恩節前的那個周日,每個人都筋疲力盡了。OpenAI董事會邀請穆拉蒂單獨加入他們進行私人談話。他們告訴她,他們一直在秘密招聘一位新的首席執行官,并終于找到了愿意接受這份工作的人。

  對穆拉蒂、OpenAI員工、微軟而言,他們只能抓住最后一根稻草,啟動C計劃。周日晚上,納德拉正式邀請奧特曼和布羅克曼領導微軟內部的一個新的人工智能研究實驗室,并提供他們想要的所有資源和盡可能多的自由。兩人都接受了。微軟開始為他們認為將加入該部門的數百名OpenAI員工準備辦公室。

  穆拉蒂和她的同事們寫了一封公開信給OpenAI的董事會:“我們無法為那些缺乏能力、判斷力且不關心我們使命和員工的人工作或與他們合作。”該信件的作者承諾辭職并“加入新成立的微軟子公司”,除非所有現任董事會成員辭職并重新任命奧特曼和布羅克曼。幾個小時內,幾乎所有OpenAI員工都簽署了這封信。

  C計劃以及OpenAI大規模離職的威脅足以讓董事會態度軟化。感恩節前兩天,OpenAI宣布奧特曼將重新擔任首席執行官。除德安吉洛外,所有董事會成員都將辭職,而更知名的人物——包括Facebook前高管、推特董事長布雷特·泰勒(Bret Taylor),以及前財政部長、哈佛大學校長拉里·薩默斯(Larry Summers)——將出任董事。OpenAI的高管同意對所發生的事情進行獨立調查,包括奧特曼過去作為首席執行官的行為。

  盡管C計劃最初看起來很誘人,但微軟高管后來得出的結論是,目前的情況是最好的結果。將OpenAI的員工轉移到微軟可能會導致成本高昂且浪費時間的訴訟,還可能引發政府調查。在新框架下,微軟獲得了OpenAI的無投票權的董事會觀察員席位,使其在不引起監管審查的情況下獲得了更大的影響力。

  05 微軟的巨大勝利

  事實上,這出肥皂劇的結局被視為微軟的巨大勝利,也是對其開發人工智能方法的有力認可。一位微軟高管表示:“奧特曼和布羅克曼真的很聰明,他們可以去任何地方。但他們選擇了微軟,所有那些OpenAI的人都準備選擇微軟,就像四年前選擇我們一樣。這極大地驗證了我們建立的體系。他們都知道,這里是繼續他們正在做的工作的最佳地點,最安全的地點。”

  與此同時,被解雇的董事會成員堅稱他們的行為是明智的。“將會有一個全面和獨立的調查,而不是把一群山姆的親信放在董事會,我們最終有了可以對抗他的新人,”熟悉董事會討論的人透露說。“山姆很有權力,他很有說服力,他善于為所欲為,現在他注意到人們在看著他。”前董事托納說,“董事會始終專注于履行我們對OpenAI使命的義務。”(奧特曼告訴其他人,他歡迎調查——部分是為了幫助他理解為什么會發生這樣的悲劇,以及他本可以采取哪些不同的措施來防止這種情況發生。)

  一些人工智能監管機構對這個結果不是特別滿意。開源人工智能平臺Hugging Face的首席倫理學家瑪格麗特·米歇爾(Margaret Mitchell)認為,“董事會解雇奧特曼的時候,確實是在做自己的工作。他的回歸將會產生寒蟬效應。我們將會看到越來越少的人在公司內部直言不諱,因為他們會認為自己會被解雇——而高層的人會更加不負責任。”

  就奧特曼而言,他準備討論其他事情。“我認為我們只是轉向良好的治理和優秀的董事會成員,我們將進行獨立評估,這讓我非常興奮,”他告訴我。“我只是希望每個人都繼續生活,開心快樂。我們會繼續進行這項任務。”

  讓納德拉和斯科特松了一口氣的是,隨著Copilots的大規模發布,微軟的一切都恢復了正常。不過Office Copilots看起來既令人印象深刻又平庸。它們讓平凡的任務變得更容易,但它們距離取代人類工人還有很長的路要走。它們感覺和科幻小說預言的相去甚遠,但是它們也是人們可能每天都會用到的東西。

  根據斯科特的說法,這種效果是有意的。“真正的樂觀主義意味著有時要慢慢來,”他說。如果他、穆拉蒂和納德拉如愿以償——鑒于他們最近的勝利,這種可能性現在更大——人工智能將繼續穩步滲透到我們的生活中,其速度足以適應短期悲觀主義所需的警告,并且只有在人類能夠吸收這項技術應該如何使用的情況下才會如此。事情仍有可能失控——人工智能的漸進發展將阻止我們意識到這些危險,直到為時已晚。但是,就目前而言,斯科特和穆拉蒂相信他們能夠平衡進步和安全。

  斯科特表示:“人工智能是人類為提高每個人的生活質量而發明的最強大的東西之一。但這需要時間,也應該需要時間。我們總是通過技術來解決極具挑戰性的問題。因此,我們可以告訴自己一個關于未來的好故事,也可以告訴自己一個關于未來的壞故事——無論我們選擇哪一個,那都有可能成為現實。”

  本文作者:無忌,來源:騰訊科技,原文標題:《《紐約客》萬字長文還原OpenAI“宮斗”內幕》

  風險提示及免責條款

  市場有風險,投資需謹慎。本文不構成個人投資建議,也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資,責任自負。

股市回暖,抄底炒股先開戶!智能定投、條件單、個股雷達……送給你>>
海量資訊、精準解讀,盡在新浪財經APP

責任編輯:馬夢斐

VIP課程推薦

加載中...

APP專享直播

1/10

熱門推薦

收起
新浪財經公眾號
新浪財經公眾號

24小時滾動播報最新的財經資訊和視頻,更多粉絲福利掃描二維碼關注(sinafinance)

股市直播

  • 圖文直播間
  • 視頻直播間

7X24小時

  • 12-12 興欣新材 001358 --
  • 12-11 安邦護衛 603373 --
  • 12-07 安培龍 301413 --
  • 12-04 豐茂股份 301459 31.9
  • 12-04 索寶蛋白 603231 21.29
  • 新浪首頁 語音播報 相關新聞 返回頂部