卡住“英偉達的脖子”，他們賣爆了！

　　來源：華爾街見聞 常嘉帥

　　GPU之王的煩惱。

　　作為“掘金買鏟”邏輯的核心受益者，英偉達創紀錄的業績，成了撐起生成式AI行情的信心支柱。

　　然而，隱匿于出色業績背后，更關鍵的問題是，由于產能受限，英偉達無法滿足市場對GPU的需求，8月曾有媒體報道，H100訂單已經排隊到了明年Q1甚至Q2。

　　根據GPU Utils的推測，保守估計，英偉達GPU潛在訂單總額可能超過200億美元，旗艦GPU H100的供給缺口高達43萬張。

　　英偉達CEO黃仁勛也直言：

“我們目前的出貨量遠遠不能滿足需求。”

　　老黃的苦衷，就在于卡住英偉達脖子的兩項關鍵技術——CoWoS封裝和HBM內存。

　　SK海力士和臺積電 卡英偉達脖子的幕后玩家

　　去年9月推出的H100，是英偉達產品矩陣中最先進的GPU。

　　相較于前任A100，它的價格翻了1.5-2倍左右，但性能卻有了質的飛躍：推理速度提升3.5倍，在訓練速度提升2.3倍；如果用伺服器叢集運算的方式，訓練速度更是能提高到9倍。在LLM訓練中，它能讓原本一個星期的工作量，縮短為20個小時。

　　一塊英偉達H100，主要由三個部分構成：中心的H100裸片兩側各有三個HBM堆棧，最外層則是臺積電的2.5D CoWoS封裝框。

　　三個部件里，核心的邏輯芯片供應是最簡單的，它主要產自臺積電臺南18號工廠，使用4N工藝節點（實際是5nm+）。由于5nm+下游的PC、智能手機和非AI相關數據中心芯片市場疲軟，目前臺積電5nm+產能利用率不到70%。因此邏輯芯片供應沒有問題。

　　英偉達最主要的供應缺口，來自邏輯芯片兩側的6塊HBM（High Bandwidth Memory，高帶寬內存），和把邏輯芯片、HBM連接起來的CoWoS封裝（Chip on wafer on Substrate，芯片、晶圓、基板封裝）。

　　HBM是一種基于3D堆疊工藝的DRAM內存芯片。其技術原理，就是將多個DDR芯片，垂直堆疊在一起，通過硅通孔（TSV）和微凸塊（μBmps）技術，把芯片相互連接，從而突破了現有的性能限制，大大提高了存儲容量，實現更高帶寬、更高位寬、更低功耗、更小尺寸的DDR組合陣列。

　　內存芯片對GPU性能至關重要，尤其是訓練AI所用的高性能GPU。推理和訓練工作負載是內存密集型任務。隨著AI模型中參數數量的指數級增長，僅權重一項就將模型大小推高到了TB級。因此，從內存中存儲和檢索訓練和推理數據的能力決定了GPU性能的上限。AI大模型和應用越多，越有利于HBM制造商。

　　從整體HBM市場來看，兩大韓國存儲巨頭SK海力士及三星占絕對壟斷地位，二者合計市占率在90%左右。

　　英偉達H100上面使用的HBM3由SK海力士獨家供應，這是目前最先進的HBM產品。

　　HBM3工藝復雜、成本高昂、產能有限，2022年，在整個HBM市場中，HBM3僅占約8%的市場份額。作為全球唯一有能力量產HBM3的公司，SK海力士牢牢卡住了英偉達H100的脖子；而前代 A100/A800以及AMD的MI200使用的則是落后一代的HBM2E技術。

　　不過，當前存儲芯片業界正處于HBM2E向HBM3換代的過程中。據Trendforce數據，預計到2024年，HBM3市占率將超過60%，三星、美光等存儲芯片廠都在積極布局，都對SK海力士的市場份額虎視眈眈。

　　而先進封裝則是一項與HBM內存相輔相成的技術——要用HBM堆棧，必須用先進封裝把內存和GPU連接起來。

　　H100上使用的臺積電CoWoS先進封裝，是一項2.5D封裝技術。

　　主流的2D封裝方案，是在基板（Substrate）的表面水平安裝所有芯片和無源器件的集成方式，類似于平面的拼圖。

　　而2.5D先進封裝，則可以類比為橫向排列的積木。多層DDR芯片堆疊的HBM堆棧，必須依賴先進封裝才能實現。

　　臺積電的CoWoS先進封裝方案，由CoW和oS組合而來：先將芯片通過Chip on Wafer（CoW）的封裝制程連接至硅晶圓，再把CoW芯片與基板連接（on Substrate），整合成CoWoS。

　　CoWoS技術大大提高了互聯密度以及數據傳輸帶寬，同時縮小了封裝尺寸，但工藝也非常復雜，因此主要用于高端市場。

　　據媒體報道，目前臺積電CoWoS封裝月產8000片，今年底有望提升至11000片，2024年底有望實現14500至16600片左右的月產能，也就是說，想要提升一倍的產量，幾乎需要一年半的時間。

　　摩爾定律見頂 先進封裝將成為主流

　　類似HBM這樣以多塊芯片堆疊、再通過先進封裝粘合起來的解決方案，已成為目前市場上高端芯片的主流設計思路。

　　背后的原因很簡單：先進制程目前已經迭代到7nm、5nm、3nm，技術節點越來越小，生產技術與制造工序越來越復雜，集成電路制造設備的資本投入也就越來越高。

　　以5nm及更小的制程為例。在這一階段，受波長限制，普通光刻機的精度已無法滿足工藝要求，企業必須轉向昂貴的EUV光刻機，一臺的售價就高達14億人民幣。

　　再加上刻蝕和薄膜沉積等設備，5nm制程的設備支出可達31億美元，是14nm的2倍以上，28nm的4倍左右。

　　為了成本效益，芯片制造商只能另辟蹊徑，從單純制程工藝的提升，轉向通過系統級芯片設計，來提升晶體管密度和性能。

　　另一方面，過去10年全球數據運算量爆炸式增長，已超越過去40年總和。隨著消費電子與車用芯片的需求日益提高，就算芯片制程能達到摩爾定律理論上的物理極限（1nm），仍然無法滿足未來產業應用的需求。

　　而先進封裝，因為能同時提高產品性能和降低成本，所以成了后摩爾時代的破局解法。

　　生成式AI催生的龐大需求，已經在加速傳統封裝向先進封裝的迭代。

　　摩根士丹利指出，AI浪潮正在推動2.5D和3D先進封裝技術的大規模應用，到2030年，先進封裝將占據整個封裝市場60%以上的份額。

　　據Future Market Insights測算，當前規模約310億美元的先進封裝市場，將在未來十年內以7.2%的CAGR不斷擴張。

　　摩根士丹利分析師還指出，由于AI芯片增長超顯著預期，因此3D/2.5D先進封裝預計將以極快的速度增長。2021-2028年的CAGR將達到22%左右。

　　卡英偉達脖子的廠商已經賺翻了

　　HBM內存和先進封裝領域的兩大龍頭——SK海力士和臺積電，現在已經嘗到了甜頭。

　　TrendForce數據顯示，盡管在消費電子市場低迷影響下，內存芯片市場出貨量和平均銷售單價均出現下滑，但HBM產品卻在逆勢增長，價格一路水漲船高。

　　有媒體報道稱，2023年開年后三星、SK海力士兩家存儲大廠HBM訂單快速增加。SK海力士獨家供應的HBM3價格更是上漲5倍。作為原本單位售價就遠高于其他規格內存芯片的高毛利產品，HBM3利潤之豐厚堪稱恐怖。TrendForce預計，AI浪潮帶動下，2024年整體HBM營收將達到89億美元，年增127%。

　　與此同時，隨著英偉達H100、AMD MI300的熱銷，臺積電先進封裝同樣供不應求。

　　摩根士丹利分析師表示：

根據我們的代工廠供應鏈檢查，單個CoWoS-S晶圓（及相關工藝）的售價為6，000-12，000美元，具體取決于客戶/項目的規模和設計復雜性。根據臺積電在Q2財報會議上公開的信息，預計2023年總收入的6-7%將來自先進封裝和測試。

我們估計CoWoS今年可能為臺積電貢獻約10億美元的收入。由于臺積電不斷加碼CoWoS產能（根據臺積電Q2財報電話會上提供的數據，產能將在2024年翻一番），以及當前強勁的AI芯片需求，這一數字可能會進一步增長。因此，我們預計2023-2027年臺積電CoWoS收入的CAGR將達到40%。

　　風險提示及免責條款

　　市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。

現在送您60元福利紅包，直接提現不套路~~~快來參與活動吧！

海量資訊、精準解讀，盡在新浪財經APP

責任編輯：郭明煜