電子行業(yè)專題報(bào)告：端側(cè)AI，模型創(chuàng)新快速迭代，看好蘋果引領(lǐng)AI硬件起飛.pdf

電子行業(yè)專題報(bào)告：端側(cè)AI，模型創(chuàng)新快速迭代，看好蘋果引領(lǐng)AI硬件起飛。端側(cè)AI革新人機(jī)交互，模型快速升級(jí)，巨頭引領(lǐng)行業(yè)發(fā)展：AI自主 化能力沿著“以指令為中心“到“以意圖為中心”持續(xù)提升。LLM從 各個(gè)層面改造終端，其中Agent對(duì)開放式問題必不可少，背后是大模 型帶來的理解復(fù)雜輸入、進(jìn)行規(guī)劃推理/合理使用工具的能力。據(jù)頭 豹，端側(cè)AI市場規(guī)模2023-2028年預(yù)計(jì)CAGR高達(dá)58%，2028年超 過1.9萬億元。從具體小模型性能表現(xiàn)上看，參數(shù)量對(duì)模型性能影響巨 大，但受限于硬件，小模型的技術(shù)創(chuàng)新更加積極以提升有限參數(shù)量下 的性能表現(xiàn)，其中量化/剪枝/蒸餾是最主要的模型壓縮方式，各家小模 型因數(shù)據(jù)集/壓縮精度/量化混合方式等差異預(yù)計(jì)帶來小模型的百花齊 放。Agent架構(gòu)中，基礎(chǔ)模型本身要引入新的輸入類型，成為VLA模 型，同時(shí)還增加了個(gè)性化和內(nèi)存操作要求，均需要額外的優(yōu)化。

硬件變革核心在內(nèi)存，蘋果發(fā)力內(nèi)存創(chuàng)新應(yīng)對(duì)內(nèi)存瓶頸：相比于云端 模型，硬件是端側(cè)模型的重要制約，需要升級(jí)以補(bǔ)齊短板。對(duì)比各家 硬件，我們認(rèn)為蘋果在內(nèi)存/電池/散熱上提升空間巨大。我們認(rèn)為內(nèi)存 及其操作帶來的能耗是當(dāng)前最短板，預(yù)計(jì)成為硬件核心變革方向，如 半精度的7B模型僅參數(shù)加載占用DRAM就超過14GB，同時(shí)DRAM 耗能比SRAM和計(jì)算高出兩個(gè)數(shù)量級(jí)。同時(shí)iOS和安卓內(nèi)存利用效率 差異巨大，我們認(rèn)為安卓需要在OS層提供統(tǒng)一的AI基礎(chǔ)模型，而 iOS在模型壓縮之外則需要提高硬件內(nèi)存以克服硬件瓶頸。除了簡單 的增加內(nèi)存容量外，蘋果在內(nèi)存結(jié)構(gòu)、耗能、傳輸速度等方面創(chuàng)新密 集，如與三星合作開發(fā)獨(dú)立封裝形式，以及推進(jìn)全新的WMCM封裝 方式進(jìn)一步提高芯片組合的靈活性和集成度。

多模態(tài)UI交互界面革命帶來Agent的歷史機(jī)遇：根據(jù)交互的模式，任務(wù)執(zhí)行方法可分為基于API和基于用戶界面（UI）的方法。API交互 泛用性較弱。UI界面方式在Transformer架構(gòu)下較好克服了任務(wù)和UI 元素之間的隱含關(guān)系，大幅提升了GUI Agent的可行性，有望成為主 流。當(dāng)前蘋果和谷歌均發(fā)力UI交互模型，蘋果的Ferret-UI和谷歌的 Screen AI模型都采用讀屏AI視覺語言模型，采用統(tǒng)一編碼方式理解屏 幕信息。從谷歌UI模型看，模型參數(shù)提升對(duì)性能影響較大，同時(shí)5B 模型對(duì)性能提升尚未飽和，有必要繼續(xù)提升模型性能。