電子行業(yè)深度報告：超節(jié)點(diǎn)，國產(chǎn)算力進(jìn)攻的“矛”.pdf

電子行業(yè)深度報告：超節(jié)點(diǎn)，國產(chǎn)算力進(jìn)攻的“矛”。AI 發(fā)展的必經(jīng)之路：AI Infra 全面走向超節(jié)點(diǎn)時代。部分投資者認(rèn)為，超節(jié)點(diǎn)只是從八卡 向更多個算力卡升級的簡單堆砌，而我們認(rèn)為超節(jié)點(diǎn)是訓(xùn)練側(cè)和推理側(cè)算力基礎(chǔ)設(shè)施發(fā) 展的必選項(xiàng)，是未來百萬卡集群的基石。(1)訓(xùn)練側(cè)：隨著模型參數(shù)提升以及 MoE 架構(gòu)的 轉(zhuǎn)變，TP 和 EP 帶來大帶寬多頻次的互聯(lián)需求，超節(jié)點(diǎn)服務(wù)器可通過內(nèi)部高速總線互 連，能夠有效支撐并行計算任務(wù)，縮短大模型訓(xùn)練周期。(2)推理側(cè)：養(yǎng)“龍蝦”時代， 推理任務(wù)對 KV Cache 緩存要求較高，超節(jié)點(diǎn)有效解決“內(nèi)存墻”問題，且單 W 每秒生 成 Tokens 更高，在推理側(cè)更具性價比。(3)百萬卡集群，Scale up 先行，超節(jié)點(diǎn)是未來大 規(guī)模集群的地基。

Scale up 協(xié)議走向開源開放，超節(jié)點(diǎn)助力國產(chǎn)卡“彎道超車”。超節(jié)點(diǎn)可分成整機(jī)柜超 節(jié)點(diǎn)、分機(jī)柜超節(jié)點(diǎn)、Matrix 超節(jié)點(diǎn)（級聯(lián)超節(jié)點(diǎn)），主要由計算節(jié)點(diǎn)、交換節(jié)點(diǎn)、 TOR 交換機(jī)、供電單元、供電母線、電纜橋架/正交背板、液冷散熱配套等單元組成。博 通、阿里為代表的廠商逐步發(fā)起開放標(biāo)準(zhǔn)協(xié)議，打破 Scale up 協(xié)議相對封閉的競爭格 局，加速超節(jié)點(diǎn)生態(tài)建設(shè)。盡管國產(chǎn)芯片在制程上略有落后，以華為 384 與 GB200 NVL72 為例，單顆昇騰 910C 芯片 BF16 性能僅為 GB200 模組的 1/3，但通過超節(jié)點(diǎn)的 方式，單個 384 集群 BF16 性能總體則是 NVL72 的 1.7 倍。

超節(jié)點(diǎn)服務(wù)器帶來五大變化趨勢。(1)超節(jié)點(diǎn)新增 Scale up 需求，隨著 Scale up 域不斷擴(kuò) 大，帶動交換芯片配比持續(xù)提升；(2)交換節(jié)點(diǎn)與計算節(jié)點(diǎn)之間需要高速互聯(lián)，伴隨算力 卡數(shù)量持續(xù)提升，逐步催生 PCB 背板、正交連接器需求；(3)超節(jié)點(diǎn)機(jī)柜高密化發(fā)展，功 耗持續(xù)提升帶動 100%全液冷需求；(4)從 8 卡機(jī)到超節(jié)點(diǎn)，涉及網(wǎng)絡(luò)、供電、制冷等多個 環(huán)節(jié)，行業(yè)準(zhǔn)入門檻提升，價值留存環(huán)節(jié)增多，服務(wù)器 ODM廠商迎來價值重估；(5)超節(jié) 點(diǎn)重構(gòu)供電架構(gòu)，帶來 PSU、HVDC、SST 需求。