人工智能行業(yè)動(dòng)態(tài)報(bào)告：端側(cè)AI變革將至，迎接AIPCPhone時(shí)代.pdf

人工智能行業(yè)動(dòng)態(tài)報(bào)告：端側(cè)AI變革將至，迎接AIPCPhone時(shí)代。核心觀點(diǎn)：端側(cè)AI是AI發(fā)展下一階段，其具備獨(dú)立性、低時(shí)延等性能，能夠完成各種AI推理任務(wù)，大模型小型化、端側(cè)AI框架開源等為終端硬件承 載AI算法提供了可能；端側(cè)AI芯片性能提升,存儲(chǔ)、模組等升級(jí)打通了終端硬件運(yùn)行AI算法的道路。AI PC、AI Phone作為端側(cè)AI的核心持續(xù)向前發(fā) 展，近期英特爾、高通、聯(lián)想等國(guó)內(nèi)外廠商持續(xù)發(fā)布相關(guān)產(chǎn)品、戰(zhàn)略規(guī)劃，打造智能終端的同時(shí)也完善相關(guān)產(chǎn)業(yè)生態(tài)，我們看好端側(cè)AI產(chǎn)業(yè)進(jìn)展。

端側(cè)AI是AI發(fā)展下一階段，大模型輕量化等技術(shù)推進(jìn)端側(cè)AI發(fā)展。端側(cè)AI具備安全性、獨(dú)立性、低時(shí)延、高可靠性等特點(diǎn)，能很好地完成各種 AI推理任務(wù)。目前，多個(gè)大模型均已推出“小型化”和“場(chǎng)景化”版本，其輕量化提供了端側(cè)運(yùn)行基礎(chǔ)。此外，對(duì)于數(shù)據(jù)精度例如INT4、 INT8的支持優(yōu)化、ExecuTorch等AI框架的開源，為端側(cè)AI進(jìn)展鋪平道路。

端側(cè)AI核心在于手機(jī)和PC，AI Phone和AI PC將開啟新時(shí)代。從今年2月份舉行的世界移動(dòng)通信大會(huì)，高通展示了其手機(jī)端離線運(yùn)行大模型， 到5月份微軟開發(fā)者大會(huì)高通展示其PC運(yùn)行AI大模型，再到近期英特爾、聯(lián)想等發(fā)布AI PC加速計(jì)劃、發(fā)布首款A(yù)I PC等，可以看出，國(guó)內(nèi) 外廠商持續(xù)發(fā)力AI Phone和AI PC，端側(cè)AI將走入新的時(shí)代。

AI PC核心升級(jí)在于芯片。AI PC不同于傳統(tǒng)PC的主要之處在于其SoC芯片中要有AI模塊，通過AI芯片中的NPU等模塊為硬件終端提供算力支 撐，從而運(yùn)行端側(cè)AI大模型。過去PC芯片主要是以Intel為代表的x86架構(gòu)芯片，AIPC的提出要求了SOC芯片有AI算力，在端側(cè)AI推理能力 方面，過去手機(jī)上就搭載了NPU，高通經(jīng)驗(yàn)積累深厚，Intel的筆記本芯片則是CPU+GPU。生態(tài)上，Windows也開始全力支持ARM體系，自去 年開始了多輪支持Arm架構(gòu)芯片的操作系統(tǒng)更新，高通大概率會(huì)在PC市場(chǎng)上拿到部分份額。除芯片外，DRAM、計(jì)算模組等有望迎來新的升 級(jí)與市場(chǎng)機(jī)遇。

我們看好端側(cè)AI產(chǎn)業(yè)進(jìn)展，尤其是AI Phone和AI PC領(lǐng)域，其已有相關(guān)產(chǎn)品落地，將傳統(tǒng)PC、Phone結(jié)合上AI能力有望帶動(dòng)整個(gè)PC、Phone 產(chǎn)業(yè)鏈復(fù)蘇；通過將大模型賦能終端硬件，AI應(yīng)用浪潮將有望開啟。