存儲芯片航天專題分析：HBM何以成為AI芯片核心升級點？全面理解AI存儲路線圖.pdf

存儲芯片航天專題分析：HBM何以成為AI芯片核心升級點？全面理解AI存儲路線圖。AI 存儲路線圖：更大容量、更大帶寬、更低功耗。隨著人工智能的快速發展，大模型的參數量指數級增長，不 僅推升了處理器的算力需求，同時也對與處理器匹配的內存系統提出了更高的要求。一方面，大量模型數據的 傳輸要求更大的內存帶寬，以緩解“內存墻”問題，提升 HPC 系統計算效率；另一方面，內存系統的容量需要 大幅拓展，以存儲千億參數乃至更大規模的大模型。

如何理解內存系統層級及關鍵參數？對于單個乃至多個處理器組成的系統而言，內存系統自下而上可以分為單 元、陣列、die、封裝、系統幾個層級。根據處理器設計和應用的不同，所配置的內存類型、規格選擇和配置數 量也有所不同，需要和處理器總線寬度、時鐘頻率等參數相匹配。內存最重要的性能參數是容量、帶寬和延遲， 同時還需要考慮能耗和性價比。不同類型的 DRAM 各有優勢，在設計處理器系統架構的時候需要針對不同的應 用，選擇合適的內存系統設計。

DDR+LPDDR 路線圖：面向 CPU，構建高效大容量內存系統。DDR 是最傳統、最主流的 DRAM 類型。廣泛用 于 PC、服務器、HPC 等領域。目前，DDR5 是最新一代 DDR 標準，提供更高的速度、更高的效率和更大的容 量。LPDDR 正在成為數據中心 CPU 的新選擇，其原因是需要在大規模 AI 和 HPC 工作負載的帶寬、能效、容 量和成本之間取得最佳平衡。隨著前端先進制造技術接近物理極限，DRAM 芯片本身的性能提升越來越難，從 內存模組和系統架構層面進行性能提升成為新的方向。MCRDIMM/MRDIMM 允許并行訪問同一個 DIMM 中的 兩個陣列，從而大幅提升 DIMM 模組的容量和帶寬。CXL 是一種高速互連技術，提供處理器與專用加速器、高 性能存儲系統之間的高效、高速、低延時接口，以滿足資源共享、內存池化和高效運算調度的需求。

GDDR+HBM 路線圖：面向 GPU，HBM 高帶寬優勢成為 AI 大模型訓練推理關鍵。GDDR 是專為圖形處理應 用設計的高速內存技術，搭配 GPU 用于圖形處理、數據中心加速和 AI 等需要高帶寬數據處理的場景。HBM 是 一種新型內存，得益于堆疊結構和垂直 TSV 互連，HBM 具有更高的傳輸帶寬、更高的存儲密度、更低的功耗 以及更小的尺寸，高帶寬優勢對大模型訓練和推理的效率提升至關重要。近年來，大部分高端數據中心 GPU 和 ASIC 均使用 HBM 作為內存方案，GDDR 在推理等場景中具備性價比優勢。未來，HBM 技術持續向更高帶寬、 更大容量發展，12Hi-16Hi HBM4 有望 2026 年進入量產。