AI芯片主戰場,變了

AI芯片主戰場,變了
2024年02月26日 10:02 市場資訊

安裝新浪財經客戶端第一時間接收最全面的市場資訊→【下載地址

  英偉達主導的AI芯片大戰已經轉向了一個新的戰線——一個規模更大但也更具競爭力的戰線。

  英偉達通過提供訓練人工智能模型這一極其復雜的工作所必需的芯片,將自己打造成一家價值2萬億美元的公司。隨著行業的快速發展,更大的機會將是銷售芯片使這些模型在訓練后運行的芯片,為快速增長的實際使用生成式人工智能工具的公司和人們生產文本和圖像。

  目前,這種轉變正在增加英偉達的銷量。首席財務官科萊特·克雷斯 (Colette Kress) 上周表示,去年Nvidia數據中心業務的40%以上(收入超過470億美元)用于部署人工智能推理系統,而不是訓練。這一百分比是轉變正在進行的第一個重要跡象。

  克雷斯的評論緩解了一些擔憂,即向部署人工智能系統的芯片(即執行所謂“推理”工作的芯片)的轉變威脅到了英偉達的地位,因為與制造英偉達的芯片相比,這項工作可以使用功能更弱、成本更低的芯片來完成。

  Melius Research分析師Ben Reitzes在給客戶的一份報告中表示:“人們認為Nvidia在推理領域的份額將低于訓練領域。” “這一發現有助于揭示其從即將到來的推理爆炸中受益的能力。”

  許多競爭對手認為,隨著推理芯片變得更加重要,他們在人工智能市場上擁有更好的機會。

  生產數據中心中央處理器的英特爾公司相信,隨著客戶專注于降低人工智能模型的運行成本,其芯片將越來越有吸引力。英特爾專門生產的芯片類型已經廣泛用于推理,在執行該任務時,擁有Nvidia的尖端且更昂貴的H100 AI芯片并不那么重要。

  英特爾首席執行官帕特·基辛格 (Pat Gelsinger) 在去年12月的一次采訪中表示:“推理的經濟學是,我不會承受40,000美元的H100環境,因為它會消耗太多電量,需要新的管理和安全模型以及新的 IT 基礎設施。” “如果我可以在標準 [英特爾芯片] 上運行這些模型,那是理所當然的。”

  美國銀行分析師Vivek Arya表示,向推理的轉變可能是英偉達季度收益報告周三出現的最重要消息,該報告超出了華爾街的預期,導致其股價本周上漲8.5%,推動該公司估值約為2萬億美元。

  Arya表示,隨著對人工智能模型的訓練投資激增,焦點轉向從人工智能模型中創收,推理能力將會上升。與英偉達占據主導地位的人工智能訓練相比,這可能更具競爭力。

  推理增長的速度可能比之前預期的要快。今年早些時候,瑞銀分析師估計90%的芯片需求來自訓練,而這一推論到明年只會推動20%的市場份額。分析師在一份報告中表示,英偉達大約40%的數據中心收入來自推理,“這個數字比我們預期的要大”。

  事實上,英偉達周三的財務業績表明,其在人工智能芯片領域超過80%的市場份額尚未受到嚴重挑戰。英偉達用于訓練人工智能系統的芯片預計在可預見的未來仍將保持旺盛的需求。

  在訓練人工智能系統時,公司通過模型運行海量數據,教它們以能夠實現人類發音表達的方式預測語言。這項工作需要強大的計算能力,非常適合Nvidia的圖形處理單元(GPU)。

  推理工作是指這些模型被要求處理新的信息并做出響應——更輕松的提升。

  除了英特爾和AMD等Nvidia的老牌競爭對手之外,隨著推理成為焦點,許多人工智能芯片初創公司也可能獲得發展動力。

  “我們看到我們的推理用例呈爆炸式增長,”SambaNova 的首席執行官羅德里戈·梁 (Rodrigo Liang) 說,SambaNova是一家初創公司,將人工智能芯片和軟件相結合,可以進行推理和訓練。“人們開始意識到 80% 以上的成本將用于推理,我需要尋找替代解決方案,”他說。

  Groq 是一家由前谷歌人工智能芯片工程師喬納森·羅斯 (Jonathan Ross) 創立的初創公司,近幾個月來,該公司主頁上的演示展示了其推理芯片可以如何快速地從大型語言模型中生成響應,因此引起了人們的興趣激增。羅斯表示,該公司預計今年將部署42,000個芯片,明年將部署100萬個芯片,但正在探索將芯片總數今年增加到220,000個,明年增加到150萬個。

  他說,推動這一轉變的一個因素是,一些最先進的人工智能系統正在被調整,以產生更好的響應,而無需重新訓練它們,從而將更多的計算工作推向推理。他說,Groq的專業芯片比Nvidia或其他芯片公司的產品運行速度更快、成本更低。

  “據此推斷,你可以部署什么取決于成本,”他說。“有很多模型可以在谷歌接受訓練,但它們中大約80%沒有得到部署,因為它們太貴了,無法投入生產。”

  大型科技公司——包括 Meta、微軟,谷歌和亞馬遜——一直致力于內部開發推理芯片,認識到即將到來的轉變以及能夠更便宜地進行推理的好處。

  例如,亞馬遜自2018年以來就擁有推理芯片,該公司云計算部門數據和機器習得副總裁斯瓦米·西瓦蘇布拉馬尼安 (Swami Sivasubramanian) 去年表示,推理占其Alexa智能助手計算成本的40%。

  就英偉達而言,它正在尋求在向推理過渡的過程中保持領先地位。去年,一款即將推出的芯片在一項關鍵的人工智能推理基準測試中取得了行業領先的結果,延續了該公司多年來在競爭中的主導地位。

  去年12月,AMD推出了新的人工智能芯片,據稱其推理能力優于Nvidia的芯片后,Nvidia在一篇博客文章中予以回擊,對這一說法提出質疑。英偉達表示,AMD在宣稱其性能時并未使用優化軟件,如果這樣做,英偉達的芯片速度將是原來的兩倍。

  本文來源:半導體行業觀察 (ID:icbank),原文標題:《AI芯片主戰場,變了》

  風險提示及免責條款

  市場有風險,投資需謹慎。本文不構成個人投資建議,也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資,責任自負。

股市回暖,抄底炒股先開戶!智能定投、條件單、個股雷達……送給你>>
海量資訊、精準解讀,盡在新浪財經APP

責任編輯:馬夢斐

VIP課程推薦

加載中...

APP專享直播

1/10

熱門推薦

收起
新浪財經公眾號
新浪財經公眾號

24小時滾動播報最新的財經資訊和視頻,更多粉絲福利掃描二維碼關注(sinafinance)

股市直播

  • 圖文直播間
  • 視頻直播間

7X24小時

  • 03-04 美新科技 301588 --
  • 03-04 中創股份 688695 --
  • 02-21 龍旗科技 603341 26
  • 02-08 肯特股份 301591 19.43
  • 01-30 諾瓦星云 301589 126.89
  • 新浪首頁 語音播報 相關新聞 返回頂部