電子行業(yè)專題報(bào)告:DGX服務(wù)器集群架構(gòu)催生大量光模塊光芯片需求.pdf
- 上傳者:2******
- 時(shí)間:2023/05/04
- 熱度:768
- 0人點(diǎn)贊
- 舉報(bào)
電子行業(yè)專題報(bào)告:DGX服務(wù)器集群架構(gòu)催生大量光模塊光芯片需求。DGX 服務(wù)器集群架構(gòu)需要服務(wù)器、網(wǎng)卡、交換機(jī)、線纜、光模塊等關(guān)鍵硬件。為實(shí)現(xiàn) AI 大模型訓(xùn)練、科學(xué)計(jì) 算等高算力需求工作,需要使用數(shù)百甚至上千個(gè) GPU 組成的計(jì)算單元作為算力基礎(chǔ)評(píng)估、優(yōu)化模型的配置和 參數(shù)。為了使這樣一個(gè)龐大的計(jì)算單元能夠有效發(fā)揮其效率,需要使用低延遲、高帶寬的網(wǎng)絡(luò)聯(lián)接各個(gè)服務(wù)器 節(jié)點(diǎn),以滿足服務(wù)器/GPU 間計(jì)算、讀取存儲(chǔ)數(shù)據(jù)的互聯(lián)通信需求,同時(shí)對(duì)整個(gè)集群系統(tǒng)進(jìn)行管理。服務(wù)器集群 的網(wǎng)絡(luò)系統(tǒng)包含服務(wù)器、網(wǎng)卡、交換機(jī)、線纜(包含光模塊)等主要硬件。就網(wǎng)絡(luò)構(gòu)成來看,網(wǎng)卡搭載于服務(wù) 器內(nèi)部,網(wǎng)卡直接與 CPU 相連或通過 PCIe Switch 與 GPU 相連;一層交換機(jī)通過服務(wù)器機(jī)身的端口與服務(wù)器 內(nèi)的網(wǎng)卡相連;線纜用于實(shí)現(xiàn)服務(wù)器-交換機(jī)、交換機(jī)-交換機(jī)間的連接,如果信息傳輸以光信號(hào)的形式實(shí)現(xiàn),線 纜兩端均需要搭載光模塊。參考從 DGX-1 到 DGX H100 的服務(wù)器迭代歷程,服務(wù)器搭載網(wǎng)卡數(shù)量、單端口支 持最高帶寬均呈現(xiàn)出逐代次增加趨勢(shì);相應(yīng)對(duì)支持更高傳輸速率的交換機(jī)、更高傳輸速率的線纜/光模塊帶來了 增量需求。
DGX A100 服務(wù)器集群中單顆 A100 對(duì)應(yīng)約 7 顆 200G 光模塊需求。服務(wù)器集群的網(wǎng)絡(luò)架構(gòu)包含 IB 網(wǎng)絡(luò)和以太 網(wǎng)絡(luò),其中 IB 網(wǎng)絡(luò)主要用于實(shí)現(xiàn)計(jì)算、存儲(chǔ)互聯(lián),以太網(wǎng)主要用于 In-Band 管理和 Out-of-Band 管理。在 140 臺(tái) DGX A100 組成的 DGX A100 SuperPOD 集群中,考慮計(jì)算網(wǎng)絡(luò)和存儲(chǔ)網(wǎng)絡(luò)需求,共有約 4000 根 IB 網(wǎng)絡(luò) 線纜,對(duì)應(yīng)約 8000 個(gè)端口;在全光互聯(lián)方案中,平均每顆 A100 對(duì)應(yīng)約 7 個(gè) 200G 光模塊需求,其中計(jì)算、存 儲(chǔ)網(wǎng)絡(luò)分別對(duì)應(yīng) 6.0、1.2 個(gè) 200G 光模塊需求,合計(jì)對(duì)應(yīng)約 28 個(gè) 50G 光芯片(收發(fā)芯片)需求。
DGX H100 服務(wù)器集群中單顆 H100 對(duì)應(yīng)約 1.5 顆 800G 光模塊+2 顆 400G 光模塊需求。在 128 臺(tái) DGX H100 組成的 DGX H100 SuperPOD 集群中,考慮計(jì)算網(wǎng)絡(luò)和存儲(chǔ)網(wǎng)絡(luò)需求,平均每顆 H100 對(duì)應(yīng)約 1.5 個(gè) 800G 光 模塊+2 個(gè) 400G 光模塊需求,約 20 個(gè) 100G 光芯片(收發(fā)芯片)需求。
免責(zé)聲明:本文 / 資料由用戶個(gè)人上傳,平臺(tái)僅提供信息存儲(chǔ)服務(wù),如有侵權(quán)請(qǐng)聯(lián)系刪除。
- 相關(guān)標(biāo)簽
- 相關(guān)專題
- 全部熱門
- 本年熱門
- 本季熱門
- 光芯片行業(yè)深度報(bào)告:供需缺口持續(xù),國產(chǎn)光芯片廠商成長(zhǎng)空間打開.pdf 883 4積分
- 新易盛研究報(bào)告:AI基礎(chǔ)設(shè)施建設(shè)需求提升,卡位核心北美客戶.pdf 704 6積分
- 光芯片行業(yè)專題研究:算力基建帶動(dòng)光芯片需求持續(xù)增長(zhǎng),河南省“追光逐芯”助力國產(chǎn)芯片突圍.pdf 438 6積分
- 光模塊設(shè)備行業(yè)深度:光模塊需求爆發(fā),驅(qū)動(dòng)設(shè)備進(jìn)入發(fā)展快車道.pdf 370 5積分
- 光模塊設(shè)備行業(yè)深度: AI發(fā)展帶動(dòng)光模塊需求爆發(fā),看好封裝測(cè)試設(shè)備商充分受益.pdf 295 6積分
- 太辰光研究報(bào)告:MPO核心供應(yīng)商,進(jìn)入量?jī)r(jià)齊升階段.pdf 264 6積分
- 立訊精密AI通訊業(yè)務(wù)深度:全面布局銅光熱電,深度受益AI浪潮.pdf 248 5積分
- 通信行業(yè)2026年投資策略報(bào)告:光模塊需求持續(xù)高增,衛(wèi)星互聯(lián)網(wǎng)加速發(fā)展.pdf 204 5積分
- 通信光互聯(lián)行業(yè):CW激光器重構(gòu)全球光芯片產(chǎn)業(yè)格局,IDM模式構(gòu)建產(chǎn)業(yè)鏈壁壘.pdf 194 5積分
- 科技行業(yè):關(guān)注光模塊上游核心材料發(fā)展機(jī)遇.pdf 172 4積分
- 光芯片行業(yè)深度報(bào)告:供需缺口持續(xù),國產(chǎn)光芯片廠商成長(zhǎng)空間打開.pdf 883 4積分
- 光模塊設(shè)備行業(yè)深度:光模塊需求爆發(fā),驅(qū)動(dòng)設(shè)備進(jìn)入發(fā)展快車道.pdf 370 5積分
- 光模塊設(shè)備行業(yè)深度: AI發(fā)展帶動(dòng)光模塊需求爆發(fā),看好封裝測(cè)試設(shè)備商充分受益.pdf 295 6積分
- 太辰光研究報(bào)告:MPO核心供應(yīng)商,進(jìn)入量?jī)r(jià)齊升階段.pdf 264 6積分
- 立訊精密AI通訊業(yè)務(wù)深度:全面布局銅光熱電,深度受益AI浪潮.pdf 248 5積分
- 通信行業(yè)2026年投資策略報(bào)告:光模塊需求持續(xù)高增,衛(wèi)星互聯(lián)網(wǎng)加速發(fā)展.pdf 204 5積分
- 通信光互聯(lián)行業(yè):CW激光器重構(gòu)全球光芯片產(chǎn)業(yè)格局,IDM模式構(gòu)建產(chǎn)業(yè)鏈壁壘.pdf 194 5積分
- 科技行業(yè):關(guān)注光模塊上游核心材料發(fā)展機(jī)遇.pdf 172 4積分
- ODCC開放數(shù)據(jù)中心委員會(huì):2025年400G BR4光模塊技術(shù)規(guī)范.pdf 170 6積分
- 仕佳光子公司研究報(bào)告:馭光引擎,破AI芯局.pdf 151 6積分
- 光芯片行業(yè)深度報(bào)告:供需缺口持續(xù),國產(chǎn)光芯片廠商成長(zhǎng)空間打開.pdf 883 4積分
- 光模塊設(shè)備行業(yè)深度:光模塊需求爆發(fā),驅(qū)動(dòng)設(shè)備進(jìn)入發(fā)展快車道.pdf 370 5積分
- 通信光互聯(lián)行業(yè):CW激光器重構(gòu)全球光芯片產(chǎn)業(yè)格局,IDM模式構(gòu)建產(chǎn)業(yè)鏈壁壘.pdf 194 5積分
- 科技行業(yè):關(guān)注光模塊上游核心材料發(fā)展機(jī)遇.pdf 172 4積分
- 專用設(shè)備行業(yè)光模塊設(shè)備產(chǎn)業(yè)鏈?zhǔn)崂恚汗饽K擴(kuò)產(chǎn)加速,封測(cè)設(shè)備迎需求釋放.pdf 150 3積分
- 源杰科技首次覆蓋報(bào)告:CW需求提升,硅光和CPO時(shí)代發(fā)力.pdf 138 4積分
- 中際旭創(chuàng)-300308-全球光模塊龍頭,AI算力驅(qū)動(dòng)業(yè)績(jī)高增.pdf 129 4積分
- 永鼎股份公司研究報(bào)告:光棒、光芯片與超導(dǎo)帶材產(chǎn)能擴(kuò)張,業(yè)績(jī)成長(zhǎng)性漸顯.pdf 112 5積分
- 新易盛公司研究報(bào)告:全球光通信領(lǐng)航者,光入柜內(nèi)打開新空間.pdf 109 6積分
- 電子行業(yè)深度:從“成像光學(xué)”到“算力光互聯(lián)”,光學(xué)公司價(jià)值重塑.pdf 109 6積分
