來源:華爾街見聞
賣水人也有煩惱。
被廣泛視為第四次工業(yè)革命的AIGC浪潮,正在給人類的生產(chǎn)方式帶來顛覆性的變革。憑借堪比黃金緊俏的GPU,英偉達(dá)榮膺AI“賣水人”,年內(nèi)股價大漲240%。
然而,多方搶購之下,英偉達(dá)GPU已經(jīng)陷入產(chǎn)能瓶頸。最新的H100芯片早已全部賣空,現(xiàn)在下單要等2024年Q1甚至Q2才能用上。
根源在于,GPU零部件產(chǎn)能嚴(yán)重不足,繼而影響供應(yīng)。
以H100芯片為例,其最關(guān)鍵的零部件主要是:1)邏輯芯片;2)HBM存儲芯片;3)CoWoS封裝。
核心的邏輯芯片尺寸為814平方毫米,主要由臺積電最先進(jìn)的臺南18號工廠供應(yīng),使用的工藝節(jié)點則是“4N”,實際是5nm+。由于PC、智能手機和非AI相關(guān)數(shù)據(jù)中心芯片市場疲軟,目前臺積電5nm+產(chǎn)能利用率不到70%。因此邏輯芯片供應(yīng)沒有問題。
在H100最中心的邏輯芯片旁邊,是6塊HBM(High Bandwidth Memory),它一種基于3D堆疊工藝的DRAM內(nèi)存芯片,像摩天大廈中的樓層一樣可以垂直堆疊,將多個DDR芯片堆疊在一起,通過硅通孔(TSV)連接,并使用 TCB 鍵合,實現(xiàn)更高帶寬、更高位寬、更低功耗、更小尺寸。
內(nèi)存芯片對GPU性能至關(guān)重要,尤其是訓(xùn)練AI所用的高性能GPU。推理和訓(xùn)練工作負(fù)載是內(nèi)存密集型任務(wù)。隨著AI模型中參數(shù)數(shù)量的指數(shù)級增長,僅權(quán)重一項就將模型大小推高到了TB級。因此,從內(nèi)存中存儲和檢索訓(xùn)練和推理數(shù)據(jù)的能力決定了GPU性能的上限。
作為HBM的先驅(qū),HBM供應(yīng)幾乎由韓國內(nèi)存芯片廠商SK海力士一家壟斷,市占率超過95%,也是唯一有能力生產(chǎn)H100各型號上所使用的HBM3的廠商。
HBM3供應(yīng)目前也相當(dāng)緊俏,此前有媒體報道稱,英偉達(dá)和AMD要求SK海力士提供尚未量產(chǎn)的下一代HBM3E芯片的樣品。英偉達(dá)已要求SK海力士盡快供應(yīng)HBM3E,并愿意支付“溢價”。
不過,隨著存儲芯片大廠紛紛投入重金提升HBM3產(chǎn)能,供應(yīng)緊張的狀況或在今年有所緩解。近期有媒體報道稱,在通過最終質(zhì)量測試后,三星電子8月31日與英偉達(dá)簽署了協(xié)議,將向后者供應(yīng)HBM3。最早將于下周開始供應(yīng)。
早些時候,花旗亦在報告中透露,三星將在四季度開始向英偉達(dá)供應(yīng)HBM3。
另一大產(chǎn)能瓶頸,在于CoWoS封裝。
HBM和CoWoS封裝兩種技術(shù)相輔相成。HBM對焊盤數(shù)量和短線跡長度的要求很高,這就需要CoWoS先進(jìn)封裝技術(shù)來實現(xiàn)PCB甚至封裝基板上無法實現(xiàn)的高密度、短連接。
目前,幾乎所有的HBM都采用CoWoS封裝技術(shù)。英偉達(dá)GPU CoWoS封裝的主力供應(yīng)商是臺積電。但由于需求爆炸式增長,臺積電產(chǎn)線即便開足馬力也難以填補供需鴻溝。為此,臺積電已經(jīng)新開竹南、龍?zhí)逗团_中三座工廠,其中竹南工廠占地14.3公頃,比其他封裝廠的總和還要大。
有市場分析認(rèn)為,臺積電正積極加碼先進(jìn)封裝產(chǎn)能,以滿足市場對其先進(jìn)封裝解決方案的更多需求。
另外,英偉達(dá)首席財務(wù)官Colette Kress近期透露,英偉達(dá)在CoWoS封裝等關(guān)鍵制程已開發(fā)并認(rèn)證其他供應(yīng)商產(chǎn)能,預(yù)期未來數(shù)季供應(yīng)可逐步攀升,英偉達(dá)持續(xù)與供應(yīng)商合作增加產(chǎn)能。
風(fēng)險提示及免責(zé)條款
市場有風(fēng)險,投資需謹(jǐn)慎。本文不構(gòu)成個人投資建議,也未考慮到個別用戶特殊的投資目標(biāo)、財務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點或結(jié)論是否符合其特定狀況。據(jù)此投資,責(zé)任自負(fù)。
責(zé)任編輯:周唯
VIP課程推薦
APP專享直播
熱門推薦
收起24小時滾動播報最新的財經(jīng)資訊和視頻,更多粉絲福利掃描二維碼關(guān)注(sinafinance)