GPU行業(yè)專(zhuān)題報(bào)告：GPU框架，從ROCm、Pytorch看生態(tài)壁壘.pdf

GPU行業(yè)專(zhuān)題報(bào)告：GPU框架，從ROCm、Pytorch看生態(tài)壁壘。我們認(rèn)為今后三年是國(guó)產(chǎn) GPU 發(fā)展關(guān)鍵窗口期，生態(tài)建設(shè)至關(guān)重要。以 ROCm 為代表的生態(tài)實(shí)現(xiàn)了并行計(jì)算軟件庫(kù)的廣覆蓋，對(duì)主流 AI 框架如 Pytorch 等 的完善支持都是生態(tài)建設(shè)的核心。優(yōu)先推薦性能優(yōu)良、軟件庫(kù)覆蓋率高且能夠 持續(xù)迭代、已獲得客戶(hù)認(rèn)可的公司如海光信息。昇騰 NPU 率先獲得 Pytorch 原生支持，且研發(fā)資源強(qiáng)大，未來(lái)有望持續(xù)領(lǐng)先。建議關(guān)注華為昇騰整機(jī)合作 伙伴高新發(fā)展、神州數(shù)碼、拓維信息。

國(guó)產(chǎn) GPU 發(fā)展窗口期已至，生態(tài)構(gòu)筑核心優(yōu)勢(shì)。AI 發(fā)展帶動(dòng)算力硬件需求，我 們認(rèn)為未來(lái)三年可能是國(guó)產(chǎn) GPU 發(fā)展關(guān)鍵窗口期。目前國(guó)產(chǎn)算力硬件理論性能 可接近國(guó)際主流，但軟件生態(tài)是限制理論性能和開(kāi)發(fā)者使用的重要因素。

CUDA：GPU 生態(tài)先驅(qū)，AI 時(shí)代基礎(chǔ)設(shè)施。CUDA 是 GPU 生態(tài)的先驅(qū)，實(shí)現(xiàn) 了 GPU 從圖形硬件向算力硬件的轉(zhuǎn)變。2006 年 CUDA 推出后，開(kāi)發(fā)者無(wú)需再 通過(guò)圖形 API 來(lái)調(diào)用 GPU，而是可以直接操控 GPU。CUDA 在長(zhǎng)期發(fā)展中逐 步滲透了 HPC 與 AI 生態(tài)，2023 年已經(jīng)迭代到第 12 代 API，具備了巨量軟件組 件，塑造了用戶(hù)習(xí)慣，如今要將其取代需要巨量的時(shí)間和資源投入。以 CUDA 為模板，我們可以發(fā)現(xiàn)，其他算力芯片的生態(tài)要接近 CUDA 的地位，應(yīng)當(dāng)盡可 能在（并行計(jì)算相關(guān)）軟件庫(kù)覆蓋率以及 AI 框架支持度方面進(jìn)行投入。

并行計(jì)算軟件庫(kù)覆蓋度：以 ROCm 為例。CUDA 為用戶(hù)提供便利的同時(shí)，也帶 來(lái)了代價(jià)，一是需要承受英偉達(dá)硬件不低的成本，二是閉源的 CUDA 導(dǎo)致部分 使用者面臨供應(yīng)不確定性。因此需要 CUDA 的低成本替代方案，目前 AMD 推 出的 ROCm 軟件平臺(tái)未來(lái)有望替代 CUDA。

ROCm 出現(xiàn)前為何 CUDA 長(zhǎng)期沒(méi)有挑戰(zhàn)者？OpenCL 與硬件均有不足。 OpenCL 在 2015 年才添加 C++支持，長(zhǎng)期對(duì)高層軟件庫(kù)支持不足，而 CUDA 早在 2013 年就已經(jīng)支持 C/C++/Fortran/Python。硬件方面，AMD 在 2017 年首次推出 MI 系列數(shù)據(jù)中心 GPU，但與同期的 NVIDIA V100 相比存在一定差距，也不利于生態(tài)的形成。

ROCm 為何能夠成為生態(tài)轉(zhuǎn)折點(diǎn)？2015 年 Boltzman 計(jì)劃推出以來(lái)，全 新的軟硬件平臺(tái)解決了此前短板。硬件方面，全新 CDNA 架構(gòu)與 NVIDIA 的架構(gòu)各有優(yōu)勢(shì)；軟件方面，重構(gòu)的HIP平臺(tái)也全面優(yōu)于OpenCL。ROCm 通過(guò) Hipify 工具利用現(xiàn)有 CUDA 代碼；軟件庫(kù)方面，經(jīng)過(guò) 5 年建設(shè)，到 2020 年的 ROCm4.0 時(shí)代，已經(jīng)初步實(shí)現(xiàn) AI 與 HPC 領(lǐng)域基礎(chǔ)庫(kù)的全面 支持；基礎(chǔ)軟硬件支持方面，現(xiàn)有的 CDNA 與 RDNA 系列架構(gòu)得到較全 面的支持，虛擬化支持也為數(shù)據(jù)中心云化部署創(chuàng)造了條件；性能方面， ROCm 在良好優(yōu)化下與 CUDA 并無(wú)性能差距。  

ROCm 的未來(lái)？用開(kāi)源占據(jù)大生態(tài)。ROCm 作為后發(fā)者，采用開(kāi)源方式， 聚集開(kāi)發(fā)者力量是合理選擇。目前 ROCm 生態(tài)中，除專(zhuān)為 AMD 硬件優(yōu) 化的 AOCC 編譯器外，均為開(kāi)源組件。我們認(rèn)為未來(lái) ROCm 與 CUDA 可能類(lèi)似 Python 和 MATLAB 的發(fā)展路線(xiàn)，ROCm 可能在部分大型統(tǒng)一 生態(tài)領(lǐng)域獲得認(rèn)可，而 CUDA 在大量細(xì)分場(chǎng)景的優(yōu)勢(shì)有望持續(xù)。