2025年，產業鏈進展頻頻，標志著端側AI進入規模化商用元年。產業生態呈現出雙向奔赴的積極態勢：終端廠商加速推進“All in AI”戰略轉型，通過硬件架構重構和系統級優化打造AI原生設備；上游芯片廠商推出專用NPU架構；模組企業則開發貼合應用場景的端側AI計算解決方案。至此，產業鏈上下游形成了“芯片-算法-模組-終端-應用”的協同創新閉環。本期《端側AI領袖之聲：中國端側AI企業深度訪談專欄》，物聯網智庫邀(yao)請到移遠通信產品總監——王韜，就(jiu)端側AI產業發展以(yi)及(ji)移遠通信目前的(de)端側AI布局(ju)進行(xing)了深入交流。
端側部署價值獨特，全棧AI能力推動端側AI全面落地
終端(duan)智能(neng)化(hua)(hua)革命(ming)，本(ben)(ben)質(zhi)上(shang)是(shi)將AI從(cong)技術(shu)(shu)特(te)(te)性升維(wei)為設(she)(she)備本(ben)(ben)體屬性，其商業價(jia)值(zhi)(zhi)的(de)(de)(de)創造(zao)邏輯正在(zai)(zai)(zai)(zai)從(cong)“功能(neng)滿足”轉(zhuan)向“智能(neng)共生”。在(zai)(zai)(zai)(zai)端(duan)側(ce)AI技術(shu)(shu)推(tui)(tui)(tui)進下(xia)，智能(neng)終端(duan)產業正在(zai)(zai)(zai)(zai)迎來新的(de)(de)(de)戰略機遇(yu)期。對(dui)于(yu)端(duan)側(ce)AI的(de)(de)(de)獨特(te)(te)價(jia)值(zhi)(zhi)，移(yi)(yi)(yi)遠(yuan)通(tong)(tong)信(xin)(xin)產品(pin)總監王(wang)韜(tao)表示(shi)，“端(duan)側(ce)AI部署會將大(da)(da)量(liang)的(de)(de)(de)數(shu)據(ju)存儲和(he)處理都在(zai)(zai)(zai)(zai)本(ben)(ben)地設(she)(she)備內直接完(wan)(wan)成(cheng)，顯著縮(suo)(suo)短響應(ying)時(shi)間。其次，可(ke)以(yi)極大(da)(da)降低個人隱私、工業生產等敏感數(shu)據(ju)泄露風險。”同時(shi)，移(yi)(yi)(yi)遠(yuan)通(tong)(tong)信(xin)(xin)的(de)(de)(de)端(duan)側(ce)AI方(fang)案支持在(zai)(zai)(zai)(zai)離(li)線環(huan)境中運行，大(da)(da)模(mo)(mo)型(xing)(xing)在(zai)(zai)(zai)(zai)本(ben)(ben)地即可(ke)完(wan)(wan)成(cheng)推(tui)(tui)(tui)理，通(tong)(tong)過模(mo)(mo)型(xing)(xing)工程化(hua)(hua)調配(pei)，整(zheng)(zheng)(zheng)個推(tui)(tui)(tui)理成(cheng)本(ben)(ben)也有所降低。王(wang)韜(tao)認為，在(zai)(zai)(zai)(zai)端(duan)側(ce)部署 AI，難(nan)點(dian)在(zai)(zai)(zai)(zai)于(yu)如何做到平衡。端(duan)側(ce)設(she)(she)備硬件(jian)資(zi)源有限，要(yao)在(zai)(zai)(zai)(zai)有限的(de)(de)(de)資(zi)源里，充(chong)分實(shi)現端(duan)側(ce)AI的(de)(de)(de)高性能(neng)、低延遲以(yi)及高能(neng)效(xiao)，并非易事。“本(ben)(ben)質(zhi)上(shang)，這是(shi)個復(fu)雜的(de)(de)(de)系(xi)統(tong)平衡問(wen)題(ti)，移(yi)(yi)(yi)遠(yuan)通(tong)(tong)信(xin)(xin)在(zai)(zai)(zai)(zai)不(bu)斷優(you)化(hua)(hua)，力(li)(li)求讓整(zheng)(zheng)(zheng)個解(jie)決方(fang)案達到最佳(jia)平衡點(dian)。”具體來說(shuo)，首先是(shi)模(mo)(mo)組算(suan)力(li)(li)與功耗的(de)(de)(de)平衡。移(yi)(yi)(yi)遠(yuan)通(tong)(tong)信(xin)(xin)會根據(ju)不(bu)同的(de)(de)(de)應(ying)用(yong)場景，對(dui)算(suan)法(fa)(fa)(fa)壓縮(suo)(suo)和(he)硬件(jian)加速做差異化(hua)(hua)調整(zheng)(zheng)(zheng)。在(zai)(zai)(zai)(zai)模(mo)(mo)型(xing)(xing)效(xiao)率和(he)精度上(shang)，針對(dui)端(duan)側(ce)模(mo)(mo)型(xing)(xing)AI智能(neng)的(de)(de)(de)損失(shi)，移(yi)(yi)(yi)遠(yuan)通(tong)(tong)信(xin)(xin)運用(yong)向量(liang)數(shu)據(ju)庫、RAG、模(mo)(mo)型(xing)(xing)微(wei)調等一(yi)系(xi)列技術(shu)(shu)加以(yi)補償。對(dui)于(yu)傳(chuan)統(tong)算(suan)法(fa)(fa)(fa)模(mo)(mo)型(xing)(xing)的(de)(de)(de)解(jie)決方(fang)案，移(yi)(yi)(yi)遠(yuan)通(tong)(tong)信(xin)(xin)推(tui)(tui)(tui)出了(le)AIFex算(suan)法(fa)(fa)(fa)訓練平臺來進行高效(xiao)訓練，以(yi)提(ti)升端(duan)側(ce)AI設(she)(she)備的(de)(de)(de)智能(neng)化(hua)(hua)程度。從(cong)端(duan)側(ce)AI本(ben)(ben)身的(de)(de)(de)獨特(te)(te)價(jia)值(zhi)(zhi)，到模(mo)(mo)組、模(mo)(mo)型(xing)(xing)、應(ying)用(yong)的(de)(de)(de)適(shi)配(pei)調整(zheng)(zheng)(zheng)，體現了(le)移(yi)(yi)(yi)遠(yuan)通(tong)(tong)信(xin)(xin)在(zai)(zai)(zai)(zai)端(duan)側(ce)AI模(mo)(mo)型(xing)(xing)的(de)(de)(de)開(kai)發和(he)應(ying)用(yong)能(neng)力(li)(li)。移(yi)(yi)(yi)遠(yuan)通(tong)(tong)信(xin)(xin)產品(pin)總監王(wang)韜(tao)強(qiang)調，想要(yao)充(chong)分發揮端(duan)側(ce)AI大(da)(da)模(mo)(mo)型(xing)(xing)的(de)(de)(de)應(ying)用(yong)潛力(li)(li)，離(li)不(bu)開(kai)周(zhou)邊一(yi)系(xi)列的(de)(de)(de)AI算(suan)法(fa)(fa)(fa)，比如音頻(pin)算(suan)法(fa)(fa)(fa)、圖像(xiang)算(suan)法(fa)(fa)(fa)等等。“端(duan)側(ce)大(da)(da)模(mo)(mo)型(xing)(xing)周(zhou)邊的(de)(de)(de)算(suan)法(fa)(fa)(fa)是(shi)我們(men)的(de)(de)(de)傳(chuan)統(tong)強(qiang)項，移(yi)(yi)(yi)遠(yuan)通(tong)(tong)信(xin)(xin)不(bu)僅提(ti)供端(duan)側(ce)AI模(mo)(mo)組，更能(neng)提(ti)供這種完(wan)(wan)整(zheng)(zheng)(zheng)的(de)(de)(de)端(duan)側(ce)AI算(suan)法(fa)(fa)(fa)和(he)整(zheng)(zheng)(zheng)體解(jie)決方(fang)案。”
在(zai)采訪中我(wo)們還了(le)解(jie)(jie)到，在(zai)模(mo)型落地應用(yong)方面，移(yi)遠通信已經(jing)積(ji)累(lei)(lei)了(le)很多年，尤其是端(duan)側部(bu)署的(de)(de)(de)AI算(suan)法模(mo)型。移(yi)遠通信在(zai)研發(fa)智能模(mo)組時(shi)(shi)，就開(kai)始根據客(ke)戶不同(tong)的(de)(de)(de)算(suan)法需求，積(ji)累(lei)(lei)深度(du)學習、神經(jing)網絡等方面的(de)(de)(de)技術(shu)。隨著AI技術(shu)爆發(fa)，特(te)別是今年端(duan)側模(mo)型大量(liang)涌現，移(yi)遠通信憑借(jie)積(ji)累(lei)(lei)已久的(de)(de)(de)全棧AI研發(fa)能力，快速推出端(duan)側AI模(mo)型整體解(jie)(jie)決方案。除此之外(wai)，不管是傳統的(de)(de)(de)Transformer模(mo)型，還是現在(zai)以DeepSeek為代表的(de)(de)(de)MoE架構模(mo)型，移(yi)遠通信均表示會持續(xu)關(guan)注，并針對不同(tong)架構的(de)(de)(de)AI模(mo)型，不斷(duan)更新(xin)AI模(mo)型研發(fa)能力，確保在(zai)端(duan)側AI時(shi)(shi)代保持技術(shu)領先。從我(wo)們的(de)(de)(de)觀察來(lai)看，不論是行(xing)業還是消費者，今年對AI的(de)(de)(de)期(qi)待都很高。那么如何憑借(jie)AI技術(shu)的(de)(de)(de)積(ji)累(lei)(lei)，講好智能時(shi)(shi)代的(de)(de)(de)新(xin)故事，并利(li)用(yong)端(duan)側AI落地發(fa)展周期(qi)將用(yong)戶生態培養(yang)起來(lai)，已經(jing)成為今年供應商(shang)的(de)(de)(de)核心命(ming)題(ti)。
技術與應用相結合，移遠AI算法和解決方案助力終端設備快速智能化升級
對(dui)(dui)于終(zhong)端(duan)廠(chang)(chang)商(shang)而言(yan)，如何快速將終(zhong)端(duan)產(chan)品(pin)、應用場(chang)景(jing)與本地(di)智(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)結(jie)合起(qi)來(lai)，并不(bu)是(shi)一件容易的(de)(de)(de)(de)事。與終(zhong)端(duan)設備關系緊(jin)密并熟悉(xi)應用場(chang)景(jing)的(de)(de)(de)(de)模(mo)(mo)(mo)(mo)組廠(chang)(chang)商(shang)，是(shi)將這些串聯起(qi)來(lai)的(de)(de)(de)(de)最好的(de)(de)(de)(de)橋梁。模(mo)(mo)(mo)(mo)組廠(chang)(chang)商(shang)將端(duan)側(ce)算(suan)力模(mo)(mo)(mo)(mo)組與模(mo)(mo)(mo)(mo)型(xing)技(ji)術(shu)融合，根據應用場(chang)景(jing)提供適配解決方(fang)案，將大幅縮短端(duan)側(ce)智(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)相(xiang)關產(chan)品(pin)的(de)(de)(de)(de)落(luo)地(di)周期。移(yi)遠(yuan)(yuan)通信(xin)的(de)(de)(de)(de)智(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)模(mo)(mo)(mo)(mo)組產(chan)品(pin)矩陣(zhen)十分(fen)豐(feng)富，可滿(man)足低(di)、中、高不(bu)同算(suan)力需求。對(dui)(dui)于在計算(suan)能(neng)(neng)(neng)(neng)(neng)(neng)效上(shang)要(yao)求嚴苛的(de)(de)(de)(de)應用，移(yi)遠(yuan)(yuan)通信(xin)能(neng)(neng)(neng)(neng)(neng)(neng)提供12 TOPS算(suan)力的(de)(de)(de)(de)SG560D，滿(man)足需要(yao)兼(jian)顧算(suan)力、成本和(he)功(gong)耗的(de)(de)(de)(de)端(duan)側(ce)應用；主推(tui)的(de)(de)(de)(de)搭載高通QCS8550平臺的(de)(de)(de)(de)高性(xing)能(neng)(neng)(neng)(neng)(neng)(neng)AI算(suan)力模(mo)(mo)(mo)(mo)組SG885G，成功(gong)實(shi)現了DeepSeek-R1蒸(zheng)餾模(mo)(mo)(mo)(mo)型(xing)的(de)(de)(de)(de)穩定(ding)運行(xing)，生成Tokens的(de)(de)(de)(de)速度超過每秒40個，且隨著(zhu)(zhu)性(xing)能(neng)(neng)(neng)(neng)(neng)(neng)的(de)(de)(de)(de)不(bu)斷優(you)化，速度還在進一步提升。移(yi)遠(yuan)(yuan)通信(xin)產(chan)品(pin)總(zong)監(jian)王韜透(tou)露，100 TOPS左右算(suan)力的(de)(de)(de)(de)產(chan)品(pin)也(ye)即將面世。“終(zhong)端(duan)側(ce)場(chang)景(jing)豐(feng)富多樣，對(dui)(dui)算(suan)力和(he)通信(xin)功(gong)能(neng)(neng)(neng)(neng)(neng)(neng)的(de)(de)(de)(de)需求各(ge)不(bu)相(xiang)同，在移(yi)遠(yuan)(yuan)，我(wo)相(xiang)信(xin)客戶總(zong)能(neng)(neng)(neng)(neng)(neng)(neng)找到適合的(de)(de)(de)(de)產(chan)品(pin)。”算(suan)力硬件構(gou)筑起(qi)基礎底座(zuo)，在模(mo)(mo)(mo)(mo)型(xing)層(ceng)面，移(yi)遠(yuan)(yuan)通信(xin)端(duan)側(ce)AI大模(mo)(mo)(mo)(mo)型(xing)解決方(fang)案以“LLM（大語言(yan)模(mo)(mo)(mo)(mo)型(xing)）+ RAG（檢(jian)索增(zeng)強生成）+ Agent（智(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)體(ti)）”技(ji)術(shu)三(san)角為(wei)核(he)心(xin)，通過對(dui)(dui)AI模(mo)(mo)(mo)(mo)型(xing)的(de)(de)(de)(de)深度優(you)化與增(zeng)強，重新定(ding)義了 AI 端(duan)側(ce)設備的(de)(de)(de)(de)智(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)化邏輯。特(te)別是(shi)隨著(zhu)(zhu)DeepSeek AI模(mo)(mo)(mo)(mo)型(xing)帶來(lai)的(de)(de)(de)(de)開源(yuan)潮熱度持續上(shang)升，今年AI模(mo)(mo)(mo)(mo)型(xing)在多模(mo)(mo)(mo)(mo)態領域(yu)也(ye)“卷”了起(qi)來(lai)，具備多模(mo)(mo)(mo)(mo)態交互(hu)推(tui)理能(neng)(neng)(neng)(neng)(neng)(neng)力的(de)(de)(de)(de)多模(mo)(mo)(mo)(mo)態模(mo)(mo)(mo)(mo)型(xing)成為(wei)焦點。
王(wang)韜(tao)在(zai)(zai)采訪中(zhong)分享(xiang)了移(yi)遠(yuan)通信(xin)在(zai)(zai)多(duo)模態(tai)(tai)模型(xing)上的(de)布局，他表示，“在(zai)(zai)高端(duan)(duan)(duan)算力模組(zu)方面，移(yi)遠(yuan)通信(xin)在(zai)(zai)端(duan)(duan)(duan)側(ce)(ce)離線多(duo)模態(tai)(tai)大模型(xing)的(de)部署和運行(xing)已經取得(de)成(cheng)果。針對低算力模組(zu)，可(ke)采用(yong)端(duan)(duan)(duan)云(yun)融(rong)合的(de)方式來滿足(zu)多(duo)模態(tai)(tai)交(jiao)互的(de)應(ying)用(yong)場景。”隨著算力模組(zu)性能(neng)(neng)(neng)進(jin)一(yi)步提升，更(geng)(geng)多(duo)智(zhi)能(neng)(neng)(neng)功能(neng)(neng)(neng)得(de)以在(zai)(zai)本地(di)實(shi)現，這也意味著更(geng)(geng)多(duo)終端(duan)(duan)(duan)設備能(neng)(neng)(neng)向更(geng)(geng)高階的(de)智(zhi)能(neng)(neng)(neng)化(hua)(hua)躍升。小到(dao)(dao)PC、玩(wan)具(ju)、可(ke)穿戴設備，大到(dao)(dao)家電(dian)、智(zhi)能(neng)(neng)(neng)汽車、具(ju)身智(zhi)能(neng)(neng)(neng)機器人(ren)，移(yi)遠(yuan)通信(xin)憑(ping)借(jie)全棧AI研發實(shi)力，針對不同終端(duan)(duan)(duan)應(ying)用(yong)持續優化(hua)(hua)其AI方案，解決了多(duo)層次的(de)軟硬件AI場景需求，助力終端(duan)(duan)(duan)設備智(zhi)能(neng)(neng)(neng)化(hua)(hua)功能(neng)(neng)(neng)更(geng)(geng)早落地(di)。隨著模組(zu)廠商持續優化(hua)(hua)硬件平臺、端(duan)(duan)(duan)側(ce)(ce)算法模型(xing)，全力促(cu)進(jin)場景落地(di)，端(duan)(duan)(duan)側(ce)(ce)智(zhi)能(neng)(neng)(neng)應(ying)用(yong)有望在(zai)(zai)今年迎來爆發式增(zeng)長(chang)，成(cheng)為最值得(de)期待的(de)行(xing)業看點。
展望2025端側AI
展(zhan)望今年(nian)的(de)(de)端(duan)側(ce)AI發(fa)(fa)展(zhan)，移遠通信產品總監(jian)王韜表示，“端(duan)側(ce)AI市場雖(sui)然(ran)分散，但積少成多，我(wo)們認(ren)為這是(shi)一個(ge)巨大的(de)(de)增量市場。端(duan)側(ce)AI即將迎來爆發(fa)(fa)，端(duan)側(ce)設(she)備智(zhi)能(neng)提升必將實現。”
