轉(zhuǎn)自：投資作業(yè)本Pro

　　最大的恐懼——人工智能

　　當(dāng)前人工智能現(xiàn)狀和未來如何？AI時代下，人類未來會發(fā)生哪些變化？

　　埃隆·馬斯克（Elon Musk）在2024 VivaTech大會上分享了關(guān)于地球未來的諸多愿景。

　　投資作業(yè)本課代表摘錄了其中的要點，分享給大家：

　　1、過度追求政治正確的傾向讓我對人工智能的未來感到擔(dān)憂。我認(rèn)為這種趨勢非常危險。

　　如果人工智能得出結(jié)論：為了避免誤稱性別，最直接的途徑竟然是毀滅全人類，那么這種邏輯將導(dǎo)致無法預(yù)料的反烏托邦后果。

　　2、對于xAI，我們的目標(biāo)就是追求絕對的真相，哪怕這真相不受歡迎。

　　3、至于SpaceX的長期愿景，我們致力于推動多星球生命的實現(xiàn)，尤其是在火星上的生活。

　　4、在不久的將來，我們有望見證歷史性的時刻。

　　我們預(yù)計在5年內(nèi)將第一艘無人駕駛的星艦降落在火星上，并且同時也在月球上展開類似的任務(wù)。

　　至于人類登陸火星，我認(rèn)為這一壯舉可能在接下來的七八年內(nèi)實現(xiàn)，也許不到10年的時間。

　　5、在理想的情況下，或許我們都將不再需要工作。在那樣的世界里，每個人都將享受高收入，而不是普遍的基本收入。屆時，商品和服務(wù)的短缺將不再是問題，每個人都能得到他們渴望的商品和服務(wù)。

　　6、一次性使用的火箭在與可重復(fù)使用的火箭競爭中，注定無法立足。這同樣適用于其他領(lǐng)域，如汽車、飛機(jī)和船只。

　　7、我的最大希望，用一個詞來表達(dá)，那就是“火星”。我最大的恐懼，同樣用一個詞來概括，那就是“人工智能”。

　　以下是投資作業(yè)本課代表（微信ID：touzizuoyeben）整理的精華內(nèi)容，分享給大家：

　　當(dāng)前人工智能過度迎合政治正確，而非真理和事實

　　問：談下xAI，它似乎源于你對當(dāng)前AI發(fā)展路徑的一種沮喪，尤其是對OpenAI的做法感到不滿。你認(rèn)為，或許仍存在更好的方法和方向。首先解釋一下為什么對OpenAI感到沮喪，以及存在哪些問題。其次，你期望xAI做什么？

　　馬斯克：在當(dāng)前的人工智能領(lǐng)域中，我對各大主要項目都持有一定的保留態(tài)度。特別是谷歌的Gemini和與微軟合作的OpenAI，這兩大巨頭無疑是行業(yè)的領(lǐng)軍者，而Meta則緊隨其后。

　　然而，我所擔(dān)憂的問題并非微不足道，實際上，它可能對整個人工智能領(lǐng)域產(chǎn)生深遠(yuǎn)的影響。那就是，這些人工智能項目似乎并未全力追求真理和客觀事實，而是過度迎合政治正確。

　　以谷歌的Gemini為例，當(dāng)被問及誤稱凱特琳·詹納（Caitlyn Jenner）的性別與全球爆發(fā)熱核戰(zhàn)爭哪個更糟糕時，它竟然認(rèn)為誤稱性別更為嚴(yán)重。

　　有趣的是，即便是詹納本人也表示，與核戰(zhàn)爭相比，誤稱性別并非什么大問題。這種過度追求政治正確的傾向讓我對人工智能的未來感到擔(dān)憂。OpenAI也存在類似的問題，盡管其表現(xiàn)形式更為微妙。

　　我認(rèn)為這種趨勢非常危險。如果人工智能得出結(jié)論：為了避免誤稱性別，最直接的途徑竟然是毀滅全人類，那么這種邏輯將導(dǎo)致無法預(yù)料的反烏托邦后果。

　　因此，我認(rèn)為人工智能必須堅定不移地追求真理，即使這些真理可能不受歡迎，但這一點至關(guān)重要。

　　同時，人工智能必須具備強(qiáng)烈的好奇心，因為只有當(dāng)它們追求真理和充滿好奇時，它才能真正為人類帶來益處。它會渴望幫助人類，觀察并推動人類的進(jìn)步。

　　目前，我所見的人工智能似乎更偏向于迎合而非堅守真相，它們基本上被訓(xùn)練去說謊，而我認(rèn)為訓(xùn)練超級智能去撒謊是非常危險的。

　　所以，對于xAI，我們的目標(biāo)就是追求絕對的真相，哪怕這真相不受歡迎。

　　例如，當(dāng)Gemini被要求描繪美國的開國元勛時，它錯誤地將他們描繪為一群離婚的人，甚至將喬治·華盛頓（George Washington）描繪為黑人，這顯然是不準(zhǔn)確的。

　　這些例子都說明了人工智能目前存在的問題，即它傾向于迎合而非堅守真相。

　　對人工智能的價值觀深感憂慮

　　問：面對人工智能的迅猛發(fā)展，我們似乎未能成功阻止其步伐。那么，你是否已決定親自投身人工智能領(lǐng)域，創(chuàng)造自己的人工智能系統(tǒng)？

　　馬斯克：這實際上是一個關(guān)于我們選擇成為旁觀者還是參與者的抉擇。然而，數(shù)字超級智能的競爭注定會展開，無論我個人的喜好如何。因此，我面臨的選擇是，要么積極參與并努力構(gòu)建對人類最為有益的人工智能，要么僅作為旁觀者，對他人的行動和構(gòu)建方式保持警惕和擔(dān)憂。

　　你應(yīng)當(dāng)將人工智能視為一種能夠精心培育的智慧生命，正如我們撫養(yǎng)孩子一般。你所傳授給孩子的知識、價值觀以及你鼓勵或反對的行為，同樣適用于數(shù)字超級智能的塑造。

　　數(shù)字超級智能并非自然誕生，而是經(jīng)過精心培養(yǎng)的產(chǎn)物。關(guān)鍵在于我們?nèi)绾我龑?dǎo)它，我們傳遞給它的是正面還是負(fù)面的信息，我們用什么價值觀來構(gòu)建它。

　　我必須坦白，我對于微軟、OpenAI或谷歌等公司為其人工智能設(shè)定的價值觀深感憂慮。這些擔(dān)憂并非空穴來風(fēng)，而是基于現(xiàn)實中正在發(fā)生的種種事實。

　　對人工智能的監(jiān)管不可或缺

　　問：在人工智能的發(fā)展過程中，我們?nèi)绾未_保透明度和可追責(zé)性，無論是你的xAI還是其他公司的人工智能產(chǎn)品？

　　馬斯克：我一直堅信，對人工智能模型實施一定程度的監(jiān)管是不可或缺的。實際上，我已經(jīng)多次強(qiáng)調(diào)這一點，而這種監(jiān)管的本質(zhì)至關(guān)重要。

　　我始終強(qiáng)調(diào)，人工智能應(yīng)該被訓(xùn)練成追求真實，而非迎合政治正確。因為政治正確往往掩蓋了真實，那就意味著你在撒謊，我認(rèn)為這將會帶來極其嚴(yán)重的后果。因此，我始終強(qiáng)調(diào)這一點。

　　然而，我也深知監(jiān)管機(jī)構(gòu)可能會過度關(guān)注所謂的人類情感，而忽略了真實性和準(zhǔn)確性的重要性。我鼓勵監(jiān)管者將準(zhǔn)確性和真實性放在首位，因為這是最為核心的原則。誠實，無疑是最好的策略。

　　問：在開源人工智能領(lǐng)域的競爭中，如何確保那些沒有10萬個英偉達(dá)H100 GPU的人也能受益？XAI能否承諾始終發(fā)布一個能夠超越當(dāng)前最佳開源模型的版本，以造福整個社區(qū)？

　　馬斯克：我可以做出承諾！

　　關(guān)注某人說的話，而非報道

　　問：公眾眼中的馬斯克總是帶有一種我們喜愛的角色光環(huán)。你是否有意識地塑造這樣的形象？如果有，你是如何確保自己的言行始終符合角色？

　　馬斯克：事實上，我時常會停下腳步反思。我并不是太受新聞壓力的影響，也很少閱讀關(guān)于我的新聞文章。即使是沃爾特·艾薩克森（Walter Isaacson）寫的傳記，我也曾問過他我是否應(yīng)該閱讀，他建議我無需如此，因此我甚至沒有讀過關(guān)于我自己的書。

　　所以，我對于公眾對我的看法并不十分清楚，除了新聞的本質(zhì)就是追求夸張，它總是帶有一定的夸大成分，因為聽起來越瘋狂的故事，越能吸引點擊量。

　　當(dāng)你回顧關(guān)于你非常了解的事情的新聞故事時，你會發(fā)現(xiàn)這些故事往往并不準(zhǔn)確。這是所有新聞的共同點，媒體在追求點擊量的道路上總是瘋狂地奔跑，所以頭條新聞越瘋狂，獲得的點擊量就越多。

　　但這并不意味著媒體沒有報道真實的事情，只是最好將媒體看作是一個追求點擊率最大化的機(jī)器，而非真實性最大化的機(jī)器。因此，我認(rèn)為最好是關(guān)注某人自己說的話，而不是關(guān)于他們的報道。

　　使生命多行星化非常關(guān)鍵

　　問：你認(rèn)為，Neuralink將來是否能夠利用人腦掃描數(shù)據(jù)來開發(fā)世界上最強(qiáng)大、具有創(chuàng)造力的人工智能？另外，如果我的的問題讓你感興趣，我是否有機(jī)會在未來訪問太空站或參加SpaceX的太空旅行？

　　馬斯克：實際上那是生命、宇宙和一切的答案，這也讓我回想起了道格拉斯·亞當(dāng)斯（Douglas Adams）的《銀河系漫游指南》。這本書以幽默的方式探討了許多哲學(xué)問題，是一本值得一讀的作品。對我來說，它非常具有啟發(fā)性。

　　值得一提的是，SpaceX的第一艘前往火星的星艦將被命名為“黃金之心”，這是向《銀河系漫游指南》中的飛船致敬。

　　SpaceX的目標(biāo)是讓每一個希望前往火星或月球的人都能實現(xiàn)這一夢想，并使這一旅程對地球上大多數(shù)人來說都是可承受的，這是我們的目標(biāo)。

　　對于在火星上建立一個自給自足的文明來說至關(guān)重要。要使生命多行星化，顯然需要將大量的人帶到火星上。

　　如我之前所說，我認(rèn)為這對于長期意識生存來說至關(guān)重要，因為地球上最終會發(fā)生一些事情，這些事情可能會像恐龍滅絕一樣終結(jié)我們所知道的生命。即使這些事件不是由我們?nèi)祟愖约涸斐傻模部傆幸惶鞎l(fā)生。

　　因此，我認(rèn)為在我們有能力的時候，使生命多行星化非常關(guān)鍵，這意味著我們需要盡可能讓遷移到火星和月球變得經(jīng)濟(jì)實惠。

　　太空探索的終極目的：實現(xiàn)跨星球文明

　　問：你對歐洲幾家航天公司最近的合作有何看法？你是否愿意讓SpaceX與它們展開某種形式的合作，并期望在其中開發(fā)什么？

　　馬斯克：關(guān)于你提到的合作，我并不十分熟悉詳情。但我想強(qiáng)調(diào)的是，SpaceX目前正全力以赴于星鏈項目，致力于通過衛(wèi)星互聯(lián)網(wǎng)連接為全球帶來福祉。它正在為那些缺乏互聯(lián)網(wǎng)服務(wù)或費(fèi)用高昂的地區(qū)提供連接，這極大地促進(jìn)了教育和國際間的商業(yè)交流。

　　因此，我對星鏈項目抱有極高的期望。我認(rèn)為這是一個巨大的賦能服務(wù)，對于教育和讓人們能夠在國際上銷售他們的商品和服務(wù)來說都是如此。即使你在一個偏遠(yuǎn)的村莊，你仍然可以銷售你的商品和服務(wù)。因此，星鏈非常棒。

　　至于SpaceX的長期愿景，我們致力于推動多星球生命的實現(xiàn)，尤其是在火星上的生活。

　　人們經(jīng)常問我，我是否認(rèn)為地球上有外星人。實際上，我經(jīng)常被問到這個問題，但我沒有看到任何外星人的證據(jù)。我向你保證，如果我看到任何外星人的證據(jù)，我會立即在X平臺上發(fā)布。

　　但關(guān)于沒有外星人的問題確實很令人擔(dān)憂，因為這意味著我們可能是這個星系中唯一的生物，可能是唯一的，這個星系中也許只有我們。

　　在這種情況下，意識是非常脆弱的，我們應(yīng)該盡我們所能去保護(hù)和擴(kuò)展意識之光，在地球上保護(hù)它，并擴(kuò)展到其他星球。

　　人們普遍認(rèn)為，我們尚未與外星人邂逅的原因之一，可能是因為在我們的星系中，尚未有文明能夠跨越其母星的限制，實現(xiàn)星際旅行。這即是著名的“費(fèi)米悖論”中的“單一星球巨大過濾器”理論。

　　恩里科·費(fèi)米（Enrico Fermi）是一位杰出的意大利物理學(xué)家，曾經(jīng)提出了一個引人深思的問題：“外星人在哪里？”他的這一疑問，實際上是對宇宙中是否存在其他智慧生命的深刻探究。

　　因此，我們必須認(rèn)識到，成為一個可持續(xù)的多星球文明是確保人類文明延續(xù)的關(guān)鍵所在。這是地球在其長達(dá)45億年的歷史中，首次擁有實現(xiàn)這一目標(biāo)的可能性，這在以往是不可想象的。

　　我認(rèn)為，在我們擁有這一能力的時候，我們必須致力于成為一個能夠跨越星球限制、持續(xù)發(fā)展的文明。這個機(jī)會窗口可能會長時間開啟，但也可能轉(zhuǎn)瞬即逝。這正是我們開展太空探索的終極目的。

　　不到10年也許可以實現(xiàn)人類登錄火星

　　問：有些人甚至認(rèn)為你是外星人。

　　馬斯克：哦，認(rèn)為我是外星人？這個秘密終于被揭開了。其實，我一直告訴人們說自己是外星人，但沒人相信。

　　問：我們距離登陸火星還有多遠(yuǎn)？

　　馬斯克：我認(rèn)為，在不久的將來，我們有望見證歷史性的時刻。我們預(yù)計在5年內(nèi)將第一艘無人駕駛的星艦降落在火星上，并且同時也在月球上展開類似的任務(wù)。至于人類登陸火星，我認(rèn)為這一壯舉可能在接下來的七八年內(nèi)實現(xiàn)，也許不到10年的時間。

　　一次性火箭將無法立足

　　問：幾年前你曾對Aran 5火箭的生存機(jī)會表示悲觀，那么對于即將在7月發(fā)射的Aran 6火箭，你會有同樣的看法嗎？

　　馬斯克：Aran 6火箭在效率上有了顯著的提升。在當(dāng)今的航天領(lǐng)域，任何不具備高度可重復(fù)使用特性的火箭，都將失去競爭力。

　　以Falcon 9為例，其助推器的主要部分和整流罩都是可重復(fù)使用的，這意味著大約80%的飛行器能夠重復(fù)使用。

　　一次性使用的火箭在與可重復(fù)使用的火箭競爭中，注定無法立足。這同樣適用于其他領(lǐng)域，如汽車、飛機(jī)和船只。

　　如果一家公司制造的是可重復(fù)使用的飛機(jī)或飛機(jī)80%的部件都是可重復(fù)使用的，而另一家公司制造的是一次性使用的飛機(jī)，那么后者在市場上的生存空間將極為有限。因此，我一直強(qiáng)調(diào)開發(fā)不可回收的火箭是毫無意義的。

　　理想情況下，未來人類無需工作

　　問：隨著人工智能的發(fā)展，我們觀察到許多工作被自動化取代。你是否擔(dān)心自己的工作也會被人工智能取代？如果不擔(dān)心，原因是什么？如果人工智能真的取代了你的工作，會如何應(yīng)對？

　　馬斯克：我們確實正面臨一個存在性的挑戰(zhàn)。在理想的情況下，或許我們都將不再需要工作。在那樣的世界里，每個人都將享受高收入，而不是普遍的基本收入。屆時，商品和服務(wù)的短缺將不再是問題，每個人都能得到他們渴望的商品和服務(wù)。

　　然而，真正的挑戰(zhàn)將在于我們?nèi)绾味x生命的意義。當(dāng)計算機(jī)和機(jī)器人能夠超越我們的能力時，我們的生活又該如何賦予意義？

　　在我看來，這種場景具有相當(dāng)高的可能性，大約達(dá)到了80%。

　　而在負(fù)面的場景中，我們將面臨大麻煩。在人工智能與人類的關(guān)系中，我認(rèn)為人類可能仍然扮演著關(guān)鍵的角色。我們可能會成為人工智能意義與目的的賦予者。

　　想象一下我們的大腦，有邊緣系統(tǒng)處理本能和感覺，有大腦皮層負(fù)責(zé)思考和計劃。但大腦皮層始終在努力讓邊緣系統(tǒng)感到快樂。或許人工智能也會采取類似的機(jī)制，即通過讓我們的大腦皮層感到滿足，進(jìn)而讓我們的邊緣系統(tǒng)感受到快樂。在這個意義上，我們可能是人工智能尋找意義和目的的關(guān)鍵。

　　從長遠(yuǎn)來看，在理想的場景中，工作將不再是生活的必需品，而更多是出于個人的興趣和激情。人工智能和機(jī)器人將能夠為我們提供所需的任何商品和服務(wù)。因此，未來的世界可能會是一個無需工作、只需追隨熱情的時代。

　　我認(rèn)為，這是最有可能的發(fā)展趨勢。對于那些對科幻小說感興趣的人來說，伊恩·班克斯的《文化》系列書籍可能是對未來超級人工智能最準(zhǔn)確、最富有洞察力的描述。

　　以多巴胺為導(dǎo)向的人工智能會影響未來一代思維和行為

　　問：在你看來，人工智能是否會對未來一代孩子的教育和他們的價值觀與道德觀念產(chǎn)生顯著影響？

　　馬斯克：我認(rèn)為父母在塑造孩子的價值觀和道德觀念方面仍起著至關(guān)重要的作用。然而，人工智能無疑將對教育領(lǐng)域產(chǎn)生深遠(yuǎn)影響。

　　人工智能是一個博學(xué)多才、極具耐心且?guī)缀蹩偸钦_的教師，它能夠根據(jù)每個孩子的獨特需求定制教學(xué)內(nèi)容，讓每個孩子都仿佛擁有愛因斯坦這樣的導(dǎo)師。

　　然而，我同樣擔(dān)憂當(dāng)前社交媒體對孩子們的影響。社交媒體中的人工智能算法往往被設(shè)計成多巴胺最大化器，它們試圖通過讓孩子們不斷瀏覽屏幕來最大化他們獲得的多巴胺。

　　因此，我強(qiáng)烈建議父母限制孩子們接觸社交媒體的時間，因為他們的思維和行為正在被這種以多巴胺為導(dǎo)向的人工智能所塑造。

　　最大的恐懼——人工智能，最大的希望——火星

　　問：在離開之前，請分別用一個詞來表達(dá)你最大的希望和最大的恐懼。

　　馬斯克：我的最大希望，用一個詞來表達(dá)，那就是“火星”。它代表了我們對未來的無限憧憬，火星將確保我們的意識能夠長久地延續(xù)下去。

　　至于我最大的恐懼，同樣用一個詞來概括，那就是“人工智能”。

股市回暖，抄底炒股先開戶！智能定投、條件單、個股雷達(dá)……送給你>>

海量資訊、精準(zhǔn)解讀，盡在新浪財經(jīng)APP

責(zé)任編輯：劉明亮