HBM專題報告：高帶寬特性釋放AI硬件性能，AI高景氣持續驅動需求高增.pdf

HBM專題報告：高帶寬特性釋放AI硬件性能，AI高景氣持續驅動需求高增。高帶寬特性釋放AI硬件性能，HBM成為AI時代首選內存技術。當前諸如GPT-3等AI大模型所要求的算力日益提升，伴隨著的是參數數量呈現指數級增長，傳統 的內存帶寬及傳輸速率限制了AI硬件以及系統的最大性能，相較于傳統DDR內存，HBM具有高帶寬、低功耗、低延時等優勢，已成為當前高性能計算、人工 智能等領域的首選內存技術。當前HBM產品已經發展至第五代HBM3e，內存帶寬相較上一代提升47%至1.2TB/s，堆疊層數最高可達12層，對應最高容量達 36GB，當前三大原廠均已入局并在24H1陸續出貨，考慮到HBM需求的火爆程度，SK海力士還計劃提前一年在2025年發布HBM4。

三大原廠持續擴充HBM產能，SK海力士位居全球市場份額首位。當前AI高景氣不斷驅動HBM需求高增，持續推動HBM位元出貨量和產值同步增長，根據Yole 預測數據，預計2025年全球HBM位元出貨量和行業產值將分別達到17億GB和199億美元。競爭格局方面，根據TrendForce數據，以位元出貨量作為統計口徑， 2023年全球HBM市場中，SK海力士和三星的市場份額各占47.5%左右，而美光份額約為5%。隨著HBM3e的率先推出及放量，預計2024年SK海力士的市場份額 將增加至52.5%，而三星的市場份額將下降至42.4%。為了滿足持續增長的HBM需求，三大原廠紛紛加大資本開支擴建HBM產能，其中，三星和SK海力士的產 能擴充最為積極，預計到2024年底，三星HBM總產能將達約13萬片/月，SK海力士約12萬片/月，而美光僅為2萬片/月

TSV為HBM核心制備工藝，混合鍵合將成未來主流堆疊技術。HBM主要采用TSV技術將多個DRAM芯片進行垂直堆疊，并與GPU一同進行封裝，形成大容量、 高位寬的DDR組合陣列，從而克服單一封裝內的帶寬限制。在加工制造過程中，TSV是HBM實現芯片垂直堆疊的核心制備工藝，占封裝成本達30%。而從當前 原廠采用的封裝技術來看，三星主要采用TC-NCF技術，而SK海力士則通過Advanced MR-MUF技術并結合改良EMC材料來進行HBM的封裝生產，在改善散熱方 面具有明顯優勢。考慮到未來因帶寬、容量增長所帶來的堆疊層數及密度提升，SK海力士將利用混合鍵合技術來加工生產HBM4。混合鍵合摒棄了無凸塊設 計并采用直接銅對銅的連接方式，相較微凸塊技術，能夠在進一步提升互聯密度的同時實現功耗降低，有望成為未來HBM主流堆疊技術。