計算機行業新型智算中心改造專題報告：網絡成大模型訓練瓶頸，節點內外多方案并存.pdf

計算機行業新型智算中心改造專題報告：網絡成大模型訓練瓶頸，節點內外多方案并存。AI大模型訓練和推理拉動智能算力需求快速增長。a）模型迭代和數量增長拉動AI算力需求增長：從單個模型來看，模型能力持續提升依賴于更 大的訓練數據量和模型參數量，對應更高的算力需求；從模型的數量來看，模型種類多樣化（文生圖、文生視頻）和各廠商自主模型的研發，均 推動算力需求的增長。b）未來AI應用爆發，推理側算力需求快速增長：各廠商基于AI大模型開發各類AI應用，隨著AI應用用戶數量爆發，對應推 理側算力需求快速增長。

智算中心從集群走向超級池化。智算中心是以GPU、AI加速卡等智能算力為核心，集約化建設的新型數據中心；隨著大模型普遍進入萬億規模，算 力、顯存、互聯需求再次升級，高速互聯的百卡“超級服務器”可能成為新的設備形態，智算中心將走向超級池化階段，對設備形態、互聯方案、 存儲、平臺、散熱等維度提出新的要求。

網絡互聯：節點內外多方案并存。1）節點內：私有方案以英偉達NVLink為代表，NVLink已經發展至第五代產品，同時支持576個GPU之間的無縫高 速通信；開放技術方案以OAM和UBB為主，OCP組織定義了業內通用的AI扣卡模組形態（OAM）-基板拓撲結構（UBB）設計規范。2）節點間：主要方 案為Infiniband和RoCEv2；Infiniband網絡主要包括InfiniBand網卡、InfiniBand交換機、Subnet Management（SM）、連接件組成；RoCEv2網絡 是一個純分布式的網絡，由支持RoCEv2的網卡和交換機、連接件、流控機制組成。InfiniBand在網絡性能、集群規模、運維等方面具備顯著優勢。