北京時間8月24日上午消息，英偉達今日公布了該公司截至2023年7月30日的2024財年第二財季財報。報告顯示，英偉達第二財季營收為135.07億美元，同比增長101%，環比增長88%，創下歷史紀錄；凈利潤為61.88億美元，同比增長843%，環比增長203%；不按照美國通用會計準則的調整后凈利潤為67.40億美元，同比增長422%，環比增長148%（注：英偉達財年與自然年不同步，2024年1月30日至2024年1月29日為2024財年）。英偉達第二財季調整后每股收益和營收遠超華爾街分析師預期，對第三財季營收作出的展望也同樣遠超預期，從而推動其盤后股價大幅上漲逾8%，突破52周最高價。

　　詳見：英偉達第二財季營收135.07億美元 凈利潤同比增長843%

　　財報發布后，英偉達創始人、總裁兼首席執行官黃仁勛和執行副總裁兼首席財務官Colette Kress等高管出席隨后召開的財報電話會議，解讀財報要點并回答分析師提問。

　　以下是分析是問答環節主要內容：

　　TD Cowen分析師Matt Ramsay：我們都注意到大型模型推斷應用的迅速增長，投資者也都知道公司在機器學習訓練領域牢不可破的市場地位。以往的小型模型推斷方面的工作載荷都是在A6和CPU上完成的，隨著包括GPT在內的大型模型的出現，推斷方面的工作載荷出現了巨幅增長，我知道公司的Grace Hopper超級芯片和其他的一些產品也將滿足這些需求，可否請管理層介紹一下如何劃分小型模型推斷和大型模型推斷？公司的產品組合是怎樣定位的？

　　黃仁勛：你提到的這些語言模型都是非常偉大的產品，具備很多核心功能，具有理解非結構化語言的能力，而其核心是對人類語言結構的理解，其中編入了它們所學習到的大量人類知識。

　　大型語言模型的創建都是求大的，然后才能衍生創建出各類較小型語言模型，本質上是一種類似教師-學生的模式，我們稱之為“模型蒸餾”，我們所看到的小型語言模型，很可能都是從大型語言模型衍生，學習和蒸餾提煉而來。

　　未來的情況可能也是一樣，大型語言模型具備一般性，通用型，或者“零樣本學習”能力，具備訓練應用程序的“神奇能力”，適用于各類計算設備，應用程序開發者就是要實現大型模型的向下“蒸餾”。

　　小型模型可能也具備某些領域獨特的優秀能力，但歸納總結能力不及大型模型，不具備我們所說的“零樣本學習”能力。

　　美銀證券分析師Vivek Arya：第一個問題，公司明年增產的幅度大約是多少？因為管理層提到說每個財季都有增長。

　　第二個問題，公司在超級加速器方面的支出增長并不大，能否請管理層談談未來一兩年生成式人工智能市場的需求穩定性情況？考慮到公司所暗示的對于第三財季數據中心業務營收120到130億美元的展望，管理層預計目前已經有多少比例的服務器是人工智能加速器驅動的？未來一兩年的需求增長是否可持續？

　　Colette Kress：我們的供應在未來幾個季度到明年的時間里還將持續增長，具體增幅的數字我沒有辦法預測，因為這涉及到很多供應商，零件，以及包括HGX在內的眾多即將發布的新產品，非常感謝供應商長時間以來對我們的支持。

　　黃仁勛：全球數據中心的總裝機金額在1萬億美元上下，包括了云計算，企業和其他方面的用途，這些數據中心正處于向加速計算和生成式人工智能的過渡階段，這也是目前最重要的兩個平臺轉換。

　　加速計算是實現成本效益，能源效益和計算效益最大化的方式，而生成式人工智能也意外地推動加速計算的進展，讓數據中心運營者更有理由開展平臺轉換，從一般性用途的計算到加速計算的轉換，這是行業發展的長期趨勢。

　　伯恩斯坦研究分析師Stacy Rasgon：管理層能否介紹一下數據中心中，采用英偉達系統和GPU，以及不同類型系統比如DGX和H100，占比分別有多少？定價有什么不同？對于業務增長的驅動起到怎樣的作用？

　　Colette Kress：本財季，HGX系統是我們數據中心業務增長中非常重要的一部分，包括了Hopper 架構的HGX，以及Ampere 架構，我們仍在市場上銷售這兩種架構，并且都在大幅增長，推動了公司營收的增長，DGX的銷售以及附加軟件銷售的結合也很重要，還有即將上市的GPU新品，包括L40S，未來將帶來持續的增長。上一財季我們收入的最大推動力無疑是HGX系統。

　　黃仁勛：你談到的H100，我不知道你對這款產品的了解程度，H100其實是由35000多個零件和近1萬億個晶體管組成，重達70磅，我們需要動用很多機器人來安裝，因為要能舉起70磅的重量，也需要用到超級計算機來進行測試。

　　我們可以稱之為技術奇跡，制造強度非常大。雖然我們將其命名為H100，好像是從晶圓中生產出來的芯片一樣，但H100實際上是HGX品牌下的產品，服務于世界各地的超級加速器，是非常大的系統組件。

　　杰弗瑞分析師Mark Lipacis：公司在市場上的成功取決于軟件生態系統以及芯片和硬件平臺，請問管理層可否介紹一下軟件生態系統的演變以及關鍵要素？有沒有可能量化公司在這一領域的領先地位，比如構建它花了多少資源和人力？另外，如果我們來衡量英偉達平臺的價值，硬件差異化與軟件差異化所占的比例是多少？

　　黃仁勛：我來用一些指標說明，英偉達有一個名為企業人工智能（AI Enterprise）的運行時（runtime），是我們軟件堆棧的一部分。無論是在數據處理過程中所進行的端到端機器學習，在任何框架上進行的任何模型訓練，或是推理和部署，向外拓展到數據中心（比如超級數據中心，或是VMware上的企業數據中心），幾乎每家公司都會使用到這個運行時。

　　客戶可以在英偉達的任何GPU產品上執行此操作，我們在市場上擁有數億個GPU，在云端擁有數百萬個GPU，幾乎每家云服務中都采用了英偉達的GPU產品。

　　可以按單個GPU配置運行，也可以按每次計算多GPU配置或多節點運行，每個GPU也可以運行多個活動或者計算情形，從單個GPU運行多種計算情形，到多個GPU、多個節點，再到整個數據中心的拓展。

　　企業人工智能擁有大約4500個軟件包、軟件庫，并且彼此之間具有大約10000個依賴項。如我此前所言，英偉達對于該運行時的升級和優化將不斷持續，它是使計算加速的很好范例。

　　代碼組合的數量之多，以及應用程序組合的類型之繁，確實相當令人咋舌，我們也是花了二十年才走到這一步。

　　我認為推動公司演進的關鍵要素可能有以下這么幾個。一是架構。英偉達架構的靈活性、多功能性和性能令我們能夠勝任前面提到的任務，從數據處理到訓練、推理，推理前對數據所進行的預處理，再到后期的數據處理，語言進行標識化，以便用于訓練。整個工作流程并非只有訓練和推理，強度也要大得多，而且都是我們的工作重點。用戶在實際使用這些計算系統的過程中，需要大量的應用程序，我們的架構組合能夠加速中心計算程序，以保證最低的運算和保有成本。

　　二是裝機量。很多軟件開發者都會尋求英偉達平臺的幫助，由于我們有龐大的安裝量，通過我們，軟件開發者能夠接觸到最大數量的終端用戶，提升業務或獲得投資回報。

　　三是觸達范圍。我們在云上部署，如此多的開發人員和客戶都在使用我們的平臺，比如通信服務提供商很樂意上云，包括用于內部使用——開發，培訓，操作推薦系統、搜索或者數據處理引擎等等，以及訓練和推理，我們在云上，也在企業之中。

　　昨天，我們宣布了一項非常重大的消息，也值得注意。 VMware可謂是全球企業的操作系統，我們之間的合作也有好幾年時間了，雙方將生成式人工智能技術帶給全球企業。鑒于我們的影響，全球系統開發者都希望將產品中置入我們的平臺，來自世界各地的設備廠商和開發公司帶來了巨大的分銷效應。

　　最后，我們的規模與速度，決定了公司能夠在不同的使用模型和不同的計算環境中，持續發展極其復雜的軟硬件、網絡和計算堆棧，能夠在保質保量的前提下加快工程進度。以往我們大約每兩年引入一種新架構，而現在，大約每半年就會推出一種新架構或者新產品。

　　有了以上所提到的這些特性，客戶就更愿意將其公司業務置于我們的生態系統之中，這些因素的結合令英偉達與眾不同。

　　花旗證券分析師Atif Malik：我有一個問題問給Colette，管理層談到了核心產品L40S，請問L40S能在多大程度上緩解供應緊張問題？能否談談該產品對于盈利能力的增長有多大貢獻？

　　黃仁勛：L40S的確是為不同類型應用而設計的，而H100專為大規模語言模型而設計，用于處理非常大的模型和海量數據。L40S的主攻方向是微調模型，微調預訓練模型，這方面它做得非常好，而且L40S還裝有一個多功能的變換引擎。一臺服務器中可能安裝有多個GPU，L40S專為超大數據中心的規模擴展而設計，客戶可以輕松地將L40S服務器安裝到世界各地的超大規模數據中心之中。它采用標準機架、標準服務器，一切都是標準的，因此易于安裝。

　　L40S還有圍繞其設計的軟件堆棧，BlueField-3基礎設施計算平臺的協同，以及我們與包括VMware，Snowflakes和ServiceNow在內眾多企業的合作。L40S專為全球企業的IT系統而設計，這也是為什么慧與科技、戴爾、聯想以及其他大約20家系統制造商，選擇同我們合作，建造大約100種不同配置的企業服務器，并將生成式人工智能介紹給全球企業。L40S確實是為不同類型的橫向擴展而設計的，包括大型語言模型，生成式人工智能等不同場景的使用，L40S的起步非常優秀，世界各地的企業和超大規模數據中心都迫切希望部署L40S。

　　摩根士丹利分析師Joe Moore：管理層介紹的這些數字令人印象深刻，而更為重要的是市場還有很多未得到滿足的需求。公司營收在幾個季度內增加了兩倍多，當然，客戶希望獲得的更高的增長。能否請管理層談談目前市場還有多少未得到滿足的需求？前面也提到說訂單已經排到了明年。觸及供需平衡的水平還要多長時間？

　　黃仁勛：今年全年和明年都有不錯的排單。公司已經開始與行業領先的通信服務提供商和數據中心建設者一起規劃下一代基礎設施。思考需求的最簡單方式：世界正在從通用計算向加速計算過渡——企業提高吞吐量、提高能源效率、提高成本效率的最佳方式是將資本預算轉移到加速計算和生成人工智能上。這樣做，用戶可以大量減少CPU工作載荷，實現CPU的效能提升。

　　很多公司都意識到了這一點，這是一個轉折點，認識到這一轉變，并將資本投資轉向加速計算和生成人工智能。推動需求的并不是一個單一的應用程序，而是一個新的計算平臺，一個正在發生的新的計算轉型，世界各地的數據中心正對此做出反應并正在出現廣泛的轉變。

　　高盛分析師Toshiya Hari：首先想請Colette澄清一個數據。我記得上個財季，你提到說云服務約占公司數據中心業務營收的40%，消費者互聯網業務占30%，企業業務占30%。聽起來云服務和消費者互聯網業務的貢獻占比更大，可否澄清一下？

　　另外一個問題問給黃仁勛，作為人工智能技術的關鍵推動者和深度參與者，以及基于客戶項目的可見度，我很好奇的一點是，在人工智能提供足夠人工智能應用程序或使用案例方面，以及在為客戶帶來合理回報方面，你抱有多大的信心？因為有人擔心未來幾年人工智能的需求水平可能不會再提高，管理層認為是否有足夠的廣度和深度來支持公司數據中心業務的持續增長？

　　Colette Kress：關于你提到的公司數據中心業務的客戶組成情況，我們是將其與計算業務和網絡業務結合起來通盤考慮的，第二財季云服務占比50%多一點，消費者互聯網業務次之，后面是企業和高性能計算業務。

　　黃仁勛：我不愿意猜測未來，所以就從計算機科學行業第一原則的角度試著回答你的問題吧。相信大家都非常認可的一點是，通用計算并不是蠻力式通用計算，大規模使用通用計算不再是取得進步的最佳方式，因為能源成本太高，過于昂貴，而且應用程序的性能太慢。而如今，終于有了一種新的實現方式，就是所謂的加速計算，推動其加速發展的是生成式人工智能。

　　加速計算可用于數據中心已有的各種不同應用程序，有助于減輕CPU負擔，節省大量資金、成本和能源，并且吞吐量更高，這就是行業真正的反應。

　　展望未來，投資數據中心的最佳方式，是將資本投資從通用計算上轉移出來，集中到生成式人工智能和加速計算上。生成式人工智能提供了一種提高生產力的新方式、一種為客戶提供新服務的方式，而加速計算可以助力客戶節省資金和電力。潛在的合作對象，包括開發人員，應用程序和操作庫，數量非常之多，我們已經做好準備進行部署。

　　世界各地的數據中心都已經認識到這是部署資源、為數據中心部署資本的最佳方式，對于全世界的云服務商而言皆是如此，未來也會出現一大批新的GPU專業云服務提供商。其中一個比較著名的公司就是CoreWeave，他們做得非常好，而且大家現在也能看到很多遍布世界各地的服務當地的GPU專業服務提供商。

　　為了助力企業資本投資的轉移，我們需要全面支持企業的管理系統、操作系統、安全性，還有以軟件定義的數據中心創建方式，而這就是VMware的工作。我們多年來一直與VMware合作，支持CPU虛擬化，GPU虛擬化以及GPU的分布式計算能力，支持英偉達BlueField的高性能網絡。

　　我們一直在開發的生成式人工智能操作庫，現在都將由VMware遍布全球的、龐大銷售網絡（包含數千名員工）作為特殊產品來進行營銷，該產品命名為VMware Private AI Foundation（私人人工智能基礎），該產品將服務企業用戶。

　　結合惠普、戴爾和聯想基于L40S的新服務器產品，任何企業都可以擁有最先進的人工智能數據中心，并能夠參與生成式人工智能方面的技術進展。很難準確預測每個季度會發生什么，但我們看到了平臺的轉換，趨勢非常明顯。

　　瑞銀分析師Timothy Arcuri：公司網絡解決方案在計算業務中的配售率有多少？包含計算服務的網絡解決方案占比是不及還是多于一半？公司是否使用它來確定GPU分配的優先級？

　　黃仁勛：先回答最后一個問題，我們不會用它來確定GPU分配的優先級，會讓客戶自己決定他們想要使用什么網絡。對于正在建設超大型基礎設施的客戶來說，InfiniBand可以說是理所當然的選擇。原因在于InfiniBand的效率非常高，對于10億美元的基礎設施而言，吞吐量提高約10%、15%或者20%就意味著巨大的開支節省，相比之下，公司網絡服務收取的費用微不足道。

　　無論是單一的應用程序，還是用于大型語言模型或大型人工智能系統的基礎設施，InfiniBand都是絕佳的選擇。

　　如果你需要為許多不同的用戶提供托管服務，并且以太網是管理數據中心方式的核心，那么可以了解一下我們剛剛發布的一款解決方案，我們稱之為Spectrum-X。我們將把 InfiniBand的部分功能引入以太網，保證在以太網環境中也能夠獲得卓越的生成式人工智能能力。Spectrum-X才剛剛起步，需要BlueField-3平臺，支持Spectrum-2和Spectrum-3以太網交換機，新增的性能非常驚人，BlueField-3以及與之配合的一整套軟件使之成為可能。

　　公司非常重視BlueField項目的發展，未來有巨大的增長空間，有望大獲全勝，這就是網絡內計算的概念，將大量軟件放入計算結構中的想法正在通過BlueField-3而實現。

　　Melius分析師Ben Reitzes：我的問題關于DGX云，能否談談管理層所看到的反響以及增長勢頭如何？ Colette，能否談談軟件業務目前的表現，對于營收和利潤會有多大的貢獻？

　　黃仁勛：DGX云服務的策略是為了實現幾個目標。第一，與世界各地的云服務提供商建立真正密切的合作伙伴關系，英偉達目前與世界各地約30000家公司合作，其中15000家是初創公司，有數千家生成式人工智能公司，增長最快的領域也是生成式人工智能，我們正與世界上眾多人工智能初創企業合作，使用英偉達具有世界領先地位的云服務。

　　第二，同其他云服務提供商一道，提升超大規模云的性能，超大規模云歷來是為多租戶設計的，而非為生成式人工智能等高性能分布式計算而設計的。

　　第三，英偉達自身也使用非常龐大的基礎設施，包括我們的自動駕駛汽車團隊、研究團隊、生成式人工智能團隊、語言模型團隊，都需要數量可觀的基礎設施。如果沒有DGX系統，我們的優化編譯器就不可能實現，優化軟件和基礎設施軟件甚至需要人工智能來開發。

　　我們的工程部門使用人工智能來設計芯片，這一點已經廣為人知。還有我們的機器人團隊、Omniverse計算平臺團隊等，也都需要人工智能，我們的內部消耗量也相當大，所以也把它們放在DGX云上。DGX云集合了豐富的使用案例和驅動程序，也取得了巨大的成功。

　　Colette Kress：關于軟件收入的問題，軟件是公司幾乎所有產品的一部分，無論是數據中心，GPU系統，游戲，還是未來可能推出的汽車產品。沒錯，我們也有獨立的軟件業務，無論是銷售還是升級，業務量都持續增長，每年的業務規模大約為數億美元。我們也在考慮將企業人工智能納入到軟件業務之中，包括我們的DGX，H100的PCIe版本。即使在云服務市場，我們也將看到更多的使用案例，已經開了一個好頭，未來相信會有更多發展。（完）

現在送您60元福利紅包，直接提現不套路~~~快來參與活動吧！

海量資訊、精準解讀，盡在新浪財經APP

責任編輯：劉明亮