電子行業(yè)專題報(bào)告：DGX服務(wù)器集群架構(gòu)催生大量光模塊光芯片需求.pdf

電子行業(yè)專題報(bào)告：DGX服務(wù)器集群架構(gòu)催生大量光模塊光芯片需求。DGX 服務(wù)器集群架構(gòu)需要服務(wù)器、網(wǎng)卡、交換機(jī)、線纜、光模塊等關(guān)鍵硬件。為實(shí)現(xiàn) AI 大模型訓(xùn)練、科學(xué)計(jì) 算等高算力需求工作，需要使用數(shù)百甚至上千個(gè) GPU 組成的計(jì)算單元作為算力基礎(chǔ)評(píng)估、優(yōu)化模型的配置和 參數(shù)。為了使這樣一個(gè)龐大的計(jì)算單元能夠有效發(fā)揮其效率，需要使用低延遲、高帶寬的網(wǎng)絡(luò)聯(lián)接各個(gè)服務(wù)器 節(jié)點(diǎn)，以滿足服務(wù)器/GPU 間計(jì)算、讀取存儲(chǔ)數(shù)據(jù)的互聯(lián)通信需求，同時(shí)對(duì)整個(gè)集群系統(tǒng)進(jìn)行管理。服務(wù)器集群 的網(wǎng)絡(luò)系統(tǒng)包含服務(wù)器、網(wǎng)卡、交換機(jī)、線纜（包含光模塊）等主要硬件。就網(wǎng)絡(luò)構(gòu)成來看，網(wǎng)卡搭載于服務(wù) 器內(nèi)部，網(wǎng)卡直接與 CPU 相連或通過 PCIe Switch 與 GPU 相連；一層交換機(jī)通過服務(wù)器機(jī)身的端口與服務(wù)器 內(nèi)的網(wǎng)卡相連；線纜用于實(shí)現(xiàn)服務(wù)器-交換機(jī)、交換機(jī)-交換機(jī)間的連接，如果信息傳輸以光信號(hào)的形式實(shí)現(xiàn)，線 纜兩端均需要搭載光模塊。參考從 DGX-1 到 DGX H100 的服務(wù)器迭代歷程，服務(wù)器搭載網(wǎng)卡數(shù)量、單端口支 持最高帶寬均呈現(xiàn)出逐代次增加趨勢(shì)；相應(yīng)對(duì)支持更高傳輸速率的交換機(jī)、更高傳輸速率的線纜/光模塊帶來了 增量需求。

DGX A100 服務(wù)器集群中單顆 A100 對(duì)應(yīng)約 7 顆 200G 光模塊需求。服務(wù)器集群的網(wǎng)絡(luò)架構(gòu)包含 IB 網(wǎng)絡(luò)和以太 網(wǎng)絡(luò)，其中 IB 網(wǎng)絡(luò)主要用于實(shí)現(xiàn)計(jì)算、存儲(chǔ)互聯(lián)，以太網(wǎng)主要用于 In-Band 管理和 Out-of-Band 管理。在 140 臺(tái) DGX A100 組成的 DGX A100 SuperPOD 集群中，考慮計(jì)算網(wǎng)絡(luò)和存儲(chǔ)網(wǎng)絡(luò)需求，共有約 4000 根 IB 網(wǎng)絡(luò) 線纜，對(duì)應(yīng)約 8000 個(gè)端口；在全光互聯(lián)方案中，平均每顆 A100 對(duì)應(yīng)約 7 個(gè) 200G 光模塊需求，其中計(jì)算、存 儲(chǔ)網(wǎng)絡(luò)分別對(duì)應(yīng) 6.0、1.2 個(gè) 200G 光模塊需求，合計(jì)對(duì)應(yīng)約 28 個(gè) 50G 光芯片（收發(fā)芯片）需求。

DGX H100 服務(wù)器集群中單顆 H100 對(duì)應(yīng)約 1.5 顆 800G 光模塊+2 顆 400G 光模塊需求。在 128 臺(tái) DGX H100 組成的 DGX H100 SuperPOD 集群中，考慮計(jì)算網(wǎng)絡(luò)和存儲(chǔ)網(wǎng)絡(luò)需求，平均每顆 H100 對(duì)應(yīng)約 1.5 個(gè) 800G 光 模塊+2 個(gè) 400G 光模塊需求，約 20 個(gè) 100G 光芯片（收發(fā)芯片）需求。