查看最新行情

　　來源：財聯社

　　當地時間周一，半導體巨頭英偉達發布了新一代人工智能（AI）芯片H200，旨在培訓和部署各種人工智能模型。美股盤中，英偉達股價震蕩走高，目前漲逾1%。

　　新的H200芯片是當前用于訓練最先進大語言模型H100芯片的升級產品，集成了141GB的內存，更加擅長進行“推理”。在用于推理或生成問題答案時，性能較H100提高60%至90%。

　　據英偉達官網消息，基于英偉達的“Hopper”架構的H200也是該公司第一款使用HBM3e內存的芯片，這種內存速度更快，容量更大，因此更適合大語言模型。

　　英偉達稱：“借助HBM3e，英偉達H200以每秒4.8TB的速度提供141GB的內存，與A100相比，容量幾乎是其兩倍，帶寬增加了2.4倍。

　　另外，H200預計將于2024年第二季度上市，將與AMD的MI300X GPU展開競爭。與H200類似，AMD的芯片比其前身擁有更多的內存，這有助于大語言模型來運算推理。

　　英偉達表示，H200將與H100兼容，這意味著已經在使用H100進行訓練的人工智能公司，不需要改變他們的服務器系統或軟件來適應H200。

　　英偉達副總裁伊恩·巴克聲稱：“為了訓練生成式人工智能和高性能計算應用程序，必須使用高效能GPU。而有了H200，業界領先的人工智能超級計算平臺可以更快地解決一些世界上最重要的挑戰。”

　　英偉達加速計算首席產品經理迪翁·哈里斯表示：“看看市場上正在發生的事情，你會發現大模型尺寸正在急速膨脹。這是我們繼續引領最新、最偉大技術的又一個例子。”

　　據美國金融機構Raymond James透露，H100芯片成本僅3320美元，但英偉達對其客戶的批量價格仍然高達2.5萬至4萬美元。這導致H100利潤率或高達1000%，成為了有史以來最賺錢的一種芯片。

　　而在訓練大語言模型時，需要數千個H100集群工作，這導致科技巨頭、初創公司和政府機構都在爭奪英偉達有限的芯片供應。

　　由于對其產品的需求似乎是個無底洞，英偉達今年的銷售額井噴，股價上漲了230%，市值突破了1.2萬億美元的大關。英偉達預計第三財季營收約為160億美元，同比增長170%。

　　英偉達將在下周向投資者提供更清晰的業績細節，該公司定于11月21日公布最新財報。

現在送您60元福利紅包，直接提現不套路~~~快來參與活動吧！

海量資訊、精準解讀，盡在新浪財經APP