安裝新浪財經客戶端第一時間接收最全面的市場資訊→【下載地址】
本文選自9月出版的《埃隆·馬斯克傳》,作者 Walter Isaacson。英文原版首發 TIME,這段文字記錄了馬斯克從開始關注 AI、聯創然后退出 OpenAI、最終創立 X.AI 的始末。
《埃隆·馬斯克傳》2023年9月12日全球同步出版,唯一簡體中文版由中信出版集團出版。本書由‘喬布斯傳’執筆人、美國當代知名傳記作家 Walter Isaacson 撰寫,埃隆·馬斯克親自參與并公開推薦。
兩年來,作者沃爾特艾薩克森形影不離地跟訪馬斯克,參加他大大小小的會議,與他一起走訪工廠,深度采訪了他本人,以及他的家人、朋友、同事和對手。
人工智能OpenAI
PayPal 的聯合創始人、SpaceX 的投資人彼得·蒂爾每年都會與他的創始人基金投資的公司的領導人一起開個會。在 2012 年的會面中,馬斯克認識了戴密斯·哈薩比斯,他是一位神經科學家、電子游戲設計師和人工智能研究者。在他彬彬有禮的舉止之下,掩藏著一顆爭強好勝的心,他在 4 歲時就是一個國際象棋神童,奪得過五屆國際智力奧林匹克競賽冠軍,競賽項目包括國際象棋、撲克、珠璣妙算和雙陸棋。
在哈薩比斯現代風格的倫敦辦公室里,有一份艾倫·圖靈 1950 年發表的富有開創性的論文《計算機器與智能》的初版,文中提出了一個“模仿游戲”的思想實驗:讓一個人與另一個人類對話,還讓他與一個類似ChatGPT 的機器對話。圖靈認為,如果這個人發現他無法分辨出人類和機器的不同,那么我們就有理由說這臺機器能夠“思考”。受圖靈觀點的影響,哈薩比斯同他人共同創辦了一家名為“DeepMind”的公司,想要設計出一種基于計算機的神經網絡,從而實現通用人工智能。換句話說,DeepMind 試圖打造一種能像人類一樣學習如何思考的機器。
哈薩比斯說:“埃隆同我一拍即合,我到他的火箭工廠去拜訪他。”二人坐在食堂里,俯視著火箭裝配線。馬斯克對哈薩比斯解釋說,他之所以要打造可以飛往火星的火箭,是因為在發生世界大戰、小行星撞擊或人類文明崩潰時,這是一種可能保存人類意識的方式。哈薩比斯又補充了另一種潛在威脅—人工智能,機器可能進化為超級智能,超越我們這些凡人,甚至可能做出決定把我們干掉。馬斯克在心里琢磨這種可能性的時候,靜靜地停頓了近一分鐘。他說,在他出神的時候,他對多年來很多種影響因素可能如何發揮作用的方式做過視覺模擬,他認為哈薩比斯對人工智能風險的認識可能是對的,所以他決定向 DeepMind 投資 500 萬美元,這樣他就可以實時跟進相關領域的進展。
在與哈薩比斯對談幾周后,馬斯克向谷歌的創始人拉里·佩奇描述了DeepMind 在做的事情。他們已經相識 10 多年,馬斯克經常住在佩奇位于帕洛阿爾托的家里。在他們深夜的促膝長談中,馬斯克近乎癡迷地一次次談起人工智能的潛在風險,但佩奇對此不屑一顧。
2013 年,馬斯克的生日派對在納帕谷舉辦,盧克·諾塞克和里德·霍夫曼也來了。當著現場賓客的面,馬斯克和佩奇展開了一場激烈的辯論。馬斯克認為,除非我們建立防火墻,否則人工智能可能會取代人類,讓我們這個物種變成螻蟻草芥,甚至走向滅絕。
佩奇反駁說,如果有一天機器的智力,甚至機器的意識,都超過了人類,那又有什么關系呢?這只不過是進化的下一階段罷了。
馬斯克卻說,人類的意識是宇宙中寶貴的一縷燭光,我們不應該讓它熄滅。佩奇認為那是多愁善感的人在胡說八道,如果意識可以在機器中復制,為什么它不配具有同等的價值?也許有一天,我們甚至能夠將自己的意識上傳到機器中。佩奇指責馬斯克是“物種主義者”,只偏袒自己這個物種的生存。“嗯,沒錯,我是支持人類優先的。”馬斯克回應道,“我就是熱愛人類啊,兄弟。”
因此,當馬斯克在 2013 年年底聽說佩奇和谷歌正計劃收購 DeepMind時,他感到非常沮喪。他和朋友盧克·諾塞克試圖湊錢給 DeepMind 融資,以此來阻止這筆交易。在洛杉磯的一場聚會上,他們到樓上的一個盥洗室里與哈薩比斯通了一小時的 Skype 電話。馬斯克告訴他:“人工智能的未來不應該讓拉里說了算。”
但他的努力還是失敗了,谷歌于 2014 年 1 月宣布收購 DeepMind。佩奇最初同意創建一個“安全委員會”,馬斯克也位列其中。這個委員會的第一次也是唯一一次會議是在 SpaceX 舉行的,佩奇、哈薩比斯和谷歌董事會主席埃里克·施密特出席,里德·霍夫曼和其他一些人也在場。“埃隆在現場領會到的是,這個委員會基本上就是一個空架子。”馬斯克當時的幕僚長薩姆·特勒說,“谷歌的這些人根本不想關心人工智能的安全問題,也無意做出任何限制人工智能權力范圍的事。”
馬斯克繼續公開警告人工智能的危險,他在 2014 年麻省理工學院的一次研討會上說:“我們最大的生存威脅可能就是人工智能。”同年,亞馬遜發布了語音助手 Alexa,隨后谷歌也推出了類似的產品。馬斯克警告眾人,當這些軟硬件系統變得比人類更智能時會發生什么:它們可能會超越我們,然后把我們當寵物一樣對待。他說:“我不喜歡當誰的寵物貓。”預防問題出現的最好辦法就是確保人工智能與人類保持緊密的配合與協作。馬斯克說:“當人工智能與人類的意志脫鉤時,危險就會降臨。”
于是,馬斯克開始主辦一系列晚餐討論會,參會者包括“PayPal 黑幫”成員彼得·蒂爾和里德·霍夫曼等人,他們討論如何對抗谷歌,提升人工智能的安全系數。馬斯克甚至聯系了奧巴馬總統,總統同意在 2015年 5 月與他進行一對一的會談。馬斯克解釋了人工智能存在的風險,建議對其進行監管。馬斯克說:“奧巴馬明白了我在說什么,但我意識到他還沒有警惕到會為此做點兒什么的程度。”
馬斯克隨后把目光投向山姆·阿爾特曼,這個人的身份是三位一體的—軟件公司的企業家、跑車愛好者和生存主義者,三者難舍難分。他光鮮亮麗的外表掩蓋了一種與馬斯克類似的緊張感。阿爾特曼幾年前見過馬斯克,在參觀 SpaceX 工廠時與他交談了三個小時。“很有趣的是,一些工程師看到埃隆走過來就會散開或者看向別處。”阿爾特曼說,“他們害怕他,但他了解火箭上每個小部件的細節,這一點讓我印象深刻。”
在帕洛阿爾托的一場小型晚宴上,阿爾特曼和馬斯克決定創辦一個非營利性的人工智能研究實驗室,他們將其命名為“OpenAI”。實驗室的軟件是開源的,實驗室將努力對抗谷歌在這一領域日漸強大的主導地位。蒂爾和霍夫曼與馬斯克一起投入了資金。“我們希望有一種類似于 Linux 版本的人工智能,不受任何個人或公司的控制。”馬斯克說,“我們的目標是提升人工智能安全發展的概率,人類將從中受益。”他們在晚餐時討論的一個問題是,由大公司控制的少量人工智能系統更安全,還是大量獨立系統更安全。他們的結論是,大量彼此競爭的系統能相互制衡,這樣會更好。就像人類集體協作能抵御人類惡霸一樣,一大批獨立的人工智能機器人也會努力阻止邪惡機器人的行徑。對馬斯克來說,讓 OpenAI 真正開放的原因就是要讓許許多多的人能根據其源代碼建立各自的系統。他對《連線》雜志記者史蒂文·利維說:“我認為,防止人類濫用人工智能的最佳防火墻就是讓盡可能多的人都擁有人工智能。”
馬斯克和阿爾特曼詳細討論了一個目標,名為“人工智能對齊”—它在 2023 年 OpenAI 推出一款聊天機器人 ChatGPT 后成為熱門話題,這一目標是讓人工智能系統與人類的目標和價值觀保持一致,就像艾薩克·阿西莫夫在他的小說中設定的那些預防機器人傷害人類的規則一樣。想想《2001:太空漫游》中大開殺戒的計算機哈爾直接與創造它的人類開戰。在人工智能系統中,人類可以設置哪些防火墻和自毀開關,讓機器的行動與我們的利益保持一致?誰又有資格決定這些攸關人類的利益是什么?
馬斯克認為,確保“人工智能對齊”的一個方法是將機器與人類緊密聯系起來。它們應該是個人意志的延伸,而不是一個可能叛變并形成自己的目標意圖的系統。后來這就成為 Neuralink 公司存在的原因之一,馬斯克創立這家公司就是為了打造一種芯片,能將人類大腦直接與計算機相聯。
馬斯克還意識到,一個人工智能系統能否成功,取決于它能不能從真實世界獲得大量數據供機器學習。他當時意識到,特斯拉就是這樣一個“金礦”,它每天收集數百萬幀司機處理各類情況的視頻。他說:“特斯拉可能比世界上其他公司擁有更多的真實世界數據。”他后來意識到,另一個真實世界數據的寶庫就是推特:截至 2023 年,推特每天要處理 5 億條人類發出的帖子。
與馬斯克和阿爾特曼共進晚餐的人中有一位谷歌的研究工程師,他就是伊爾亞·蘇茨克維。他們用 190 萬美元的工資和保底獎金把他挖了過來,讓他擔任新實驗室的首席科學家。佩奇對此很憤怒,他昔日的好友、房客不僅成立了一個同他展開競爭的實驗室,還挖走了谷歌的頂級科學家。在2015 年年底 OpenAI 啟動之后,佩奇和馬斯克幾乎沒再說過話。“拉里感覺自己被背叛了,他對我親自挖走伊爾亞感到非常生氣,他也拒絕再和我一起出去玩。”馬斯克說,“我告訴他:‘拉里啊,當時你但凡對人工智能的安全問題上點兒心,我們都沒必要搭個臺子跟你唱對臺戲。’”
馬斯克對人工智能的興趣讓他啟動了一系列相關項目:Neuralink,其目標是在人類大腦中植入微芯片;Optimus,它是一種人形機器人;Dojo,它是一種能使用數百萬條視頻訓練人工神經網絡來模擬人類大腦的超級計算機。這種興趣還讓他癡迷于推動特斯拉車輛的自動駕駛進程。這些不同方向的項目起初是相當分散的,包括他后來又成立了一家名為“X.AI”的聊天機器人公司,但后來馬斯克還是把它們匯聚到了一起,共同推動通用人工智能事業的發展。
馬斯克決意在其各家公司中發展人工智能能力,這直接導致了 2018年他與 OpenAI 的決裂。他試圖說服阿爾特曼,OpenAI 既然還是落后于谷歌,那就應該并入特斯拉發展。OpenAI 團隊拒絕了這個想法,此時阿爾特曼已經是實驗室的一把手,成立了一個能夠籌集股權基金的營利性部門。
因此,馬斯克決定繼續打造一支能與之抗衡的人工智能團隊,專注于實現特斯拉的自動駕駛。盡管他要同時應付內華達工廠和弗里蒙特工廠遭遇的生產危機,他還是從 OpenAI 挖來了深度學習和計算機視覺方面的專家安德烈·卡帕斯,由此人來領導特斯拉的人工智能項目。“我們意識到特斯拉將成為一家人工智能公司,并將與 OpenAI 爭搶同類人才。”阿爾特曼說,“這讓我們團隊中的一些人很生氣,但我完全理解這是怎么回事。”阿爾特曼在 2023 年扳回一局:當卡帕斯被馬斯克折騰得筋疲力盡時,他拋出了橄欖枝,把卡帕斯重新挖了回來。
偉大的競賽
10 年來,馬斯克一直擔心人工智能終有一日會失控,它會發展出自己的思想,從而威脅人類。谷歌聯合創始人拉里·佩奇對他的擔憂不屑一顧,稱他是“人類種族主義者”,因為他只偏愛人類,卻不能對其他形式的智能體一視同仁,二人之間的友誼也因此破裂。馬斯克曾試圖阻止佩奇和谷歌收購人工智能先驅戴米斯·哈薩比斯成立的 DeepMind 公司,失敗后,2015 年馬斯克與山姆·阿爾特曼成立了一家名為 OpenAI 的頗有競爭力的非營利性實驗室。
跟機器比起來,人類動不動就會生氣。馬斯克最終與阿爾特曼決裂,離開了 OpenAI 董事會,并將其知名工程師安德烈·卡帕斯招至特斯拉自動駕駛團隊。阿爾特曼隨后成立了 OpenAI 的營利部門,從微軟獲得了130 億美元投資,還將卡帕斯重新招了回去。
2023 年 3 月,OpenAI 向公眾發布了 GPT-4。隨后,谷歌發布了一款名為 Bard 的聊天機器人。至此,“OpenAI-微軟”組合與“DeepMind-谷歌”之間的競爭正式拉開帷幕,它們創造的產品能夠以自然的方式與人類聊天,并執行大量基于文本的知識性任務。
馬斯克擔心,這些聊天機器人和人工智能系統可能會被灌輸某種政治思想,甚至可能感染他所謂的“覺醒文化心智病毒”,尤其是這些人工智能還出自微軟和谷歌之手,他還擔心能夠自我學習的人工智能系統可能會對人類產生敵意。如果考慮更直接的潛在影響,馬斯克擔心聊天機器人會被訓練成推特上炮制各類虛假信息、帶有意識形態偏見的報道和金融詐騙信息的賬號。當然,所有這些壞事都是人類已經在干的,但是如果別有用心的人擁有了這種能力,能部署成千上萬個聊天機器人執行邪惡任務,這些問題就會呈指數級地惡化。
馬斯克那種想“騎著高頭大馬沖進去拯救世界”的沖動勁兒又上來了。他覺得 OpenAI 和谷歌雙雄相爭,場上需要第三名角斗士登場—一個專注于人工智能安全、致力于保護人類的角斗士。他創立并資助了 OpenAI,現在卻被排除在這個賽場外,他對此十分不滿。人工智能是一場正在全球科技界上空醞釀的巨大風暴,沒有人比馬斯克更喜歡風暴了。
2023 年 2 月,他邀請了或者說“召喚”了山姆·阿爾特曼到推特同他會面,并要求阿爾特曼帶來OpenAI 的創始文件。馬斯克質疑他,要求他證明自己憑什么能夠合法地把一個由捐款資助的非營利組織轉變成一個可以賺取數百萬美元的營利組織。阿爾特曼試圖向馬斯克證明這一切都是合法操作,他堅稱自己既不是股東也不是套現者。他還向馬斯克提供了新公司的股份,但被馬斯克拒絕了。
出人意料的是,馬斯克對 OpenAI 和阿爾特曼發起了猛攻。他說:“OpenAI 是作為一家開源的(這也是我將其命名為‘Open’ AI 的原因)、非營利性的公司創建的,其目的就是與谷歌抗衡,現在它卻成了一家封閉源代碼、追求利潤最大化的公司,實際上處于微軟的控制之下。我到現在都不明白,我捐贈了 1 億美元創辦的非營利性組織是怎么變成市值 300 億美元的營利性公司的。如果這是合法的,為什么大家不都這么做呢?”他稱人工智能是“人類有史以來創造過的最強大的工具”,隨后對它“如今落入了無情的壟斷企業之手的境遇”表示遺憾。
阿爾特曼很痛苦,與馬斯克不同,他是一個非常敏感的人,而不是一個愿意針尖對麥芒的人。他沒有從 OpenAI 中賺到任何錢,而且他認為馬斯克對人工智能安全問題的復雜性鉆研得還不夠,不過他確實認為馬斯克的批評是發自內心的擔憂。阿爾特曼告訴科技記者卡拉·斯維什爾:“他是個渾蛋,我倆行事風格真的很不一樣,我不想要他那種風格。但我認為他真的很關心這件事,他對人類的未來處境感到焦慮不安。”
馬斯克的數據流
喂養人工智能,靠的是數據。新誕生的這些聊天機器人正在接受海量信息的訓練,包括互聯網上的數十億個網頁和其他文檔。谷歌和微軟擁有搜索引擎、云服務和電子郵箱,他們手頭有大量的數據可以幫他們訓練這些系統。
馬斯克能給這場戰局帶來什么呢?馬斯克坐擁的一大數據資產是推特的信息流,其中包括多年來所有人發布的超過 1 萬億條推文,還有每天新增的 5 億條。它是人類集體意識的體現,是世界上更新最及時的數據集,包含了現實生活中人類的各種對話、新聞、興趣、趨勢、爭論和術語。此外,它還是一個很好的訓練場,可以讓聊天機器人測試真人對其回復做出的反應。馬斯克在收購推特時并沒有考慮到這些數據的價值,他說:“實際上這算是一個附帶的好處,我是在買下推特以后才意識到的。”
推特曾經零零星星地允許其他一些公司使用這些數據流。2023 年 1 月,馬斯克在推特會議室召開了一系列深夜會議,研究如何針對這項服務收費的問題。他對工程師們說:“這是一個將推特數據集變現的好機會。”而且能限制谷歌和微軟使用這些數據改進自家的人工智能聊天機器人。
馬斯克還擁有另一個數據寶庫:特斯拉每天從自家車輛上的攝像頭接收并處理的 1 600 億幀視頻畫面。這些數據不同于為聊天機器人提供信息的文本文件,這是人類在真實世界中導航的視頻數據,它有助于為實體機器人打造人工智能系統,而不再是只能生成文本的聊天機器人。
通用人工智能的王冠是打造出能夠像人類一樣在物理空間(比如工廠、辦公室和火星表面)運行的機器,而不僅是一些讓我們感到驚艷的虛擬聊天機器人。特斯拉和推特可以共同為這兩個研究方向提供數據集和數據處理能力:不管是教機器在物理空間中自主導航,還是教它們用自然語言回答問題。
3月15日
“怎樣才能讓人工智能變得安全呢?”馬斯克問道,“我一直在苦苦思考這個問題。我們可以采取哪些行動來最大限度地減少人工智能的風險,確保人類意識的賡續?”
在奧斯汀,他光腳盤腿坐在希馮·齊里斯家泳池邊的露臺上,這位Neuralink 的高管是他兩個孩子的母親,自八年前 OpenAI 成立以來,齊里斯一直是他在人工智能領域的智囊。雙胞胎斯特賴德和阿祖爾正坐在他們的腿上,此時已經 16 個月大。馬斯克仍在堅持間歇性斷食:他很晚才吃了一頓早午餐,其中還有甜甜圈—他開始經常吃甜甜圈。齊里斯煮了咖啡,然后把他的咖啡放進微波爐里加熱,這樣他就不會喝得太快。
一周前,馬斯克給我發來信息:“有幾件重要的事情我想和你談談,只能當面談。”當我問他想在何時何地見面時,他回答:“3 月 15 日,奧斯汀。”
我感到很困惑,而且不得不承認還有點兒擔心。原來他是想談談人類未來面臨的問題,而他首先想到的就是人工智能。我們坐在外面,還得把手機留在屋里,因為他說有人可能會用手機監聽我們的談話。不過他后來同意我在書中引用他在這次談話中表達的對人工智能的看法。
他語調低沉,時不時發出幾近狂躁的笑聲。他指出,人類的智力水平正趨于平穩,因為沒有足夠多的新生兒。與此同時,計算機智能卻在呈指數級增長,就像給摩爾定律打了類固醇一樣。在某一時刻,一定會出現這種情況:生物腦力在數字算力面前相形見絀。
此外,新的人工智能機器學習系統可以自行攝取信息,自行學習如何產生結果并輸出,甚至還能升級自己的代碼、開發新的能力。數學家約翰·馮·諾依曼和科幻作家弗諾·文奇曾用“奇點”一詞來描述人工智能以不可控制的速度獨自前進,把我們人類遠遠甩在身后的那一時刻。“這一天可能比我們預想的要來得更快。”馬斯克的語調透露出一種不祥的感覺。
有那么一瞬間,我被這奇特的場景所震撼。在一個陽光明媚的春日,我們坐在郊區一個寧靜的后院游泳池邊的露臺上,一對眼眸清澈的雙胞胎正在蹣跚學步,馬斯克卻悲觀地推測著在人工智能毀滅地球文明之前,在火星上建立一個可持續發展的人類殖民地,這個機會的時間窗口還有多久。這讓我回想起薩姆·特勒在為馬斯克工作的第二天參加 SpaceX 董事會時說過的話:“他們坐在一起認真地討論著,在火星上建造城市的計劃,人們在火星上要穿什么,每個人似乎都覺得這場對話的內容再尋常不過了。”
馬斯克陷入了長久的沉默。正如希馮所說,他正在進行“批處理任務”,這個術語指的是老式計算機在處理能力足夠的情況下給一系列任務排序并按順序運行的方式。“我不能就這么干瞪眼看著,什么都不做。”馬斯克最后輕聲說道,“隨著人工智能的到來,我在想還值不值得花那么多時間考慮推特的事。當然,我或許能做到讓它成為世界上最大的金融機構,但我每天只有那么多的腦容量,也只有 24 個小時。我就是這么個意思,我也不差錢了對吧。”
我剛想開口說話,但他也知道我想問什么。“那我的時間應該花在什么地方?”他說,“發射星艦,現在前往火星的任務變得更緊迫了。”他又停頓了一下,隨后補充道:“另外,我需要集中精力確保人工智能的安全性,所以我要創辦一家人工智能公司。”
X.ΑI
馬斯克將他的新公司命名為 X.AI,并親自招來了谷歌 DeepMind 部門的著名人工智能研究員伊戈爾·巴布什金擔任首席工程師。X.AI 一開始把部分新員工安置在推特,但馬斯克表示有必要把它變成一家獨立的初創公司,就像 Neuralink 一樣。他在招募人工智能科學家時遇到了一些困難,因為該領域掀起的全新熱潮意味著所有具備相關經驗的從業者都可以拿到100 萬美元甚至更高的年薪。他解釋說:“如果能讓他們成為一家新公司的創始人并分到股權,那么就更容易吸引他們加入。”
我算了一下,這樣他就得管理六家公司—特斯拉、SpaceX 及其星鏈部門、推特、Boring Company、Neuralink 和 X.AI,這相當于史蒂夫·喬布斯巔峰時期掌舵公司(蘋果和皮克斯)數量的 3 倍。
馬斯克承認,在打造一款可以用自然語言回答問題的聊天機器人方面,他一開始遠遠落后于 OpenAI。但是,特斯拉在自動駕駛汽車和 Optimus方面的成果讓他們在打造物理世界中導航所需的人工智能方面遙遙領先。這意味著特斯拉的工程師在創造成熟的通用人工智能方面實際上領先于OpenAI,而通用人工智能需要同時具備這兩種能力。“特斯拉在現實世界積累的人工智能實力被低估了,”馬斯克說,“想象一下,如果特斯拉和OpenAI 必須交換任務,他們來制造自動駕駛車輛,而我們來制造大語言模型聊天機器人,誰會贏呢?當然是我們。”
2023 年 4 月,馬斯克向巴布什金和他的團隊提出了三大目標。第一個目標是打造一款能編寫計算機程序的人工智能機器人。程序員可以在一開始輸入任何編程語言,X.AI 機器人就能自動完成他們最有可能編寫的程序代碼。第二個目標是開發一款 OpenAI 的 GPT 系列聊天機器人的競品,它使用的算法和訓練的數據集要能確保政治立場的中立性。
馬斯克給團隊設定的第三個目標更為宏大。他的首要任務一直都是確保人工智能的發展有助于人類意識的賡續。他認為實現這一目標的最佳途徑是創造一種能夠“推理”“思考”并以“真理”為指導原則的通用人工智能。我們應該能對它委以重任,比如“制造一款更好的火箭發動機”。馬斯克希望有朝一日它能解決更宏大、更現實的問題。它將是“一款能夠最大限度追求真理的人工智能,它關心對宇宙的理解,這樣可能帶來的一個結果就是它想要保護人類,因為我們是宇宙中至關重要的組成部分。
這聽起來有點兒耳熟,后來我就意識到:他所肩負的使命與他童年時代的啟蒙“圣經”《銀河系搭車客指南》中記載的使命相似(我是不是有點兒牽強附會了呢),當年正是這本書將他從青春期的存在主義抑郁狀態中拯救出來,書中超級計算機的使命就是要找出“關于生命、宇宙和萬物終極問題的答案”。
責任編輯:王永生
VIP課程推薦
APP專享直播
熱門推薦
收起24小時滾動播報最新的財經資訊和視頻,更多粉絲福利掃描二維碼關注(sinafinance)