2025年，產業鏈進展頻頻，標志著端側AI進入規模化商用元年。產業生態呈現出雙向奔赴的積極態勢：終端廠商加速推進“All in AI”戰略轉型，通過硬件架構重構和系統級優化打造AI原生設備；上游芯片廠商推出專用NPU架構；模組企業則開發貼合應用場景的端側AI計算解決方案。至此，產業鏈上下游形成了“芯片-算法-模組-終端-應用”的協同創新閉環。本期《端側AI領袖之聲：中國端側AI企業深度訪談專欄》，物聯網智庫邀請到移(yi)遠(yuan)通信產品總(zong)監(jian)——王韜，就端側(ce)AI產業發展以及移(yi)遠(yuan)通信目前的端側(ce)AI布局進(jin)行了深入(ru)交(jiao)流。
端側部署價值獨特，全棧AI能力推動端側AI全面落地
終端(duan)(duan)(duan)(duan)(duan)智能(neng)化(hua)(hua)革命，本(ben)(ben)質(zhi)(zhi)上(shang)是(shi)將AI從技(ji)(ji)術特(te)性(xing)升維(wei)為設(she)備(bei)本(ben)(ben)體(ti)(ti)(ti)屬性(xing)，其(qi)商業(ye)價(jia)值的(de)創(chuang)造邏輯正在(zai)(zai)(zai)(zai)(zai)從“功能(neng)滿足(zu)”轉向(xiang)“智能(neng)共生(sheng)”。在(zai)(zai)(zai)(zai)(zai)端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI技(ji)(ji)術推進下，智能(neng)終端(duan)(duan)(duan)(duan)(duan)產(chan)(chan)業(ye)正在(zai)(zai)(zai)(zai)(zai)迎來(lai)新的(de)戰略機遇期。對于(yu)端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI的(de)獨特(te)價(jia)值，移(yi)(yi)遠(yuan)(yuan)通(tong)(tong)信(xin)產(chan)(chan)品總(zong)監王(wang)韜表示，“端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI部署(shu)會將大(da)量(liang)的(de)數(shu)據存儲和處理都(dou)在(zai)(zai)(zai)(zai)(zai)本(ben)(ben)地設(she)備(bei)內直接(jie)完(wan)(wan)成(cheng)，顯(xian)著(zhu)縮短響應時間。其(qi)次，可以極大(da)降(jiang)低個人隱私、工業(ye)生(sheng)產(chan)(chan)等敏感數(shu)據泄露風險。”同時，移(yi)(yi)遠(yuan)(yuan)通(tong)(tong)信(xin)的(de)端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI方(fang)案支持(chi)在(zai)(zai)(zai)(zai)(zai)離線環境中(zhong)運(yun)行，大(da)模(mo)(mo)型(xing)(xing)(xing)(xing)(xing)在(zai)(zai)(zai)(zai)(zai)本(ben)(ben)地即(ji)可完(wan)(wan)成(cheng)推理，通(tong)(tong)過模(mo)(mo)型(xing)(xing)(xing)(xing)(xing)工程(cheng)(cheng)化(hua)(hua)調(diao)配，整個推理成(cheng)本(ben)(ben)也有所降(jiang)低。王(wang)韜認為，在(zai)(zai)(zai)(zai)(zai)端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)部署(shu) AI，難點在(zai)(zai)(zai)(zai)(zai)于(yu)如(ru)(ru)何做(zuo)到平衡。端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)設(she)備(bei)硬(ying)件(jian)(jian)資源有限，要在(zai)(zai)(zai)(zai)(zai)有限的(de)資源里，充分實現(xian)端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI的(de)高(gao)性(xing)能(neng)、低延遲以及高(gao)能(neng)效(xiao)(xiao)，并非易(yi)事。“本(ben)(ben)質(zhi)(zhi)上(shang)，這是(shi)個復(fu)雜的(de)系統平衡問題，移(yi)(yi)遠(yuan)(yuan)通(tong)(tong)信(xin)在(zai)(zai)(zai)(zai)(zai)不斷優化(hua)(hua)，力求讓整個解決方(fang)案達到最(zui)佳平衡點。”具體(ti)(ti)(ti)來(lai)說，首先是(shi)模(mo)(mo)組(zu)(zu)算(suan)(suan)(suan)力與功耗(hao)的(de)平衡。移(yi)(yi)遠(yuan)(yuan)通(tong)(tong)信(xin)會根據不同的(de)應用(yong)場(chang)景，對算(suan)(suan)(suan)法壓(ya)縮和硬(ying)件(jian)(jian)加速做(zuo)差(cha)異(yi)化(hua)(hua)調(diao)整。在(zai)(zai)(zai)(zai)(zai)模(mo)(mo)型(xing)(xing)(xing)(xing)(xing)效(xiao)(xiao)率和精度上(shang)，針(zhen)對端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)模(mo)(mo)型(xing)(xing)(xing)(xing)(xing)AI智能(neng)的(de)損失，移(yi)(yi)遠(yuan)(yuan)通(tong)(tong)信(xin)運(yun)用(yong)向(xiang)量(liang)數(shu)據庫、RAG、模(mo)(mo)型(xing)(xing)(xing)(xing)(xing)微調(diao)等一(yi)系列(lie)技(ji)(ji)術加以補償。對于(yu)傳統算(suan)(suan)(suan)法模(mo)(mo)型(xing)(xing)(xing)(xing)(xing)的(de)解決方(fang)案，移(yi)(yi)遠(yuan)(yuan)通(tong)(tong)信(xin)推出了AIFex算(suan)(suan)(suan)法訓練(lian)平臺來(lai)進行高(gao)效(xiao)(xiao)訓練(lian)，以提(ti)升端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI設(she)備(bei)的(de)智能(neng)化(hua)(hua)程(cheng)(cheng)度。從端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI本(ben)(ben)身的(de)獨特(te)價(jia)值，到模(mo)(mo)組(zu)(zu)、模(mo)(mo)型(xing)(xing)(xing)(xing)(xing)、應用(yong)的(de)適配調(diao)整，體(ti)(ti)(ti)現(xian)了移(yi)(yi)遠(yuan)(yuan)通(tong)(tong)信(xin)在(zai)(zai)(zai)(zai)(zai)端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI模(mo)(mo)型(xing)(xing)(xing)(xing)(xing)的(de)開(kai)發和應用(yong)能(neng)力。移(yi)(yi)遠(yuan)(yuan)通(tong)(tong)信(xin)產(chan)(chan)品總(zong)監王(wang)韜強調(diao)，想要充分發揮端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI大(da)模(mo)(mo)型(xing)(xing)(xing)(xing)(xing)的(de)應用(yong)潛力，離不開(kai)周邊(bian)一(yi)系列(lie)的(de)AI算(suan)(suan)(suan)法，比(bi)如(ru)(ru)音頻算(suan)(suan)(suan)法、圖(tu)像算(suan)(suan)(suan)法等等。“端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)大(da)模(mo)(mo)型(xing)(xing)(xing)(xing)(xing)周邊(bian)的(de)算(suan)(suan)(suan)法是(shi)我們的(de)傳統強項，移(yi)(yi)遠(yuan)(yuan)通(tong)(tong)信(xin)不僅提(ti)供端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI模(mo)(mo)組(zu)(zu)，更能(neng)提(ti)供這種完(wan)(wan)整的(de)端(duan)(duan)(duan)(duan)(duan)側(ce)(ce)(ce)(ce)AI算(suan)(suan)(suan)法和整體(ti)(ti)(ti)解決方(fang)案。”
在(zai)(zai)采訪中我(wo)們還了(le)解到(dao)，在(zai)(zai)模(mo)(mo)型落(luo)地應用方面(mian)，移遠(yuan)(yuan)通(tong)(tong)信(xin)已經(jing)(jing)積(ji)(ji)累了(le)很多(duo)年，尤其(qi)是(shi)端(duan)側部署的(de)(de)(de)AI算(suan)法模(mo)(mo)型。移遠(yuan)(yuan)通(tong)(tong)信(xin)在(zai)(zai)研發(fa)(fa)智能(neng)模(mo)(mo)組時，就開始根據客戶不同的(de)(de)(de)算(suan)法需求，積(ji)(ji)累深度學(xue)習(xi)、神經(jing)(jing)網絡等方面(mian)的(de)(de)(de)技(ji)術。隨著(zhu)AI技(ji)術爆發(fa)(fa)，特別是(shi)今(jin)(jin)年端(duan)側模(mo)(mo)型大量涌現，移遠(yuan)(yuan)通(tong)(tong)信(xin)憑借積(ji)(ji)累已久的(de)(de)(de)全棧AI研發(fa)(fa)能(neng)力，快(kuai)速推出端(duan)側AI模(mo)(mo)型整體解決方案。除此之外(wai)，不管是(shi)傳(chuan)統的(de)(de)(de)Transformer模(mo)(mo)型，還是(shi)現在(zai)(zai)以DeepSeek為代表的(de)(de)(de)MoE架(jia)構(gou)模(mo)(mo)型，移遠(yuan)(yuan)通(tong)(tong)信(xin)均表示會持(chi)續關(guan)注，并針對(dui)不同架(jia)構(gou)的(de)(de)(de)AI模(mo)(mo)型，不斷更(geng)新AI模(mo)(mo)型研發(fa)(fa)能(neng)力，確保(bao)在(zai)(zai)端(duan)側AI時代保(bao)持(chi)技(ji)術領先。從我(wo)們的(de)(de)(de)觀察(cha)來(lai)看，不論是(shi)行(xing)業還是(shi)消(xiao)費者，今(jin)(jin)年對(dui)AI的(de)(de)(de)期(qi)待都很高。那么如何憑借AI技(ji)術的(de)(de)(de)積(ji)(ji)累，講好智能(neng)時代的(de)(de)(de)新故事，并利用端(duan)側AI落(luo)地發(fa)(fa)展周期(qi)將(jiang)用戶生態培(pei)養起來(lai)，已經(jing)(jing)成為今(jin)(jin)年供應商的(de)(de)(de)核心命題。
技術與應用相結合，移遠AI算法和解決方案助力終端設備快速智能化升級
對于(yu)終端(duan)(duan)廠商而言，如何(he)快(kuai)速(su)將(jiang)(jiang)終端(duan)(duan)產品(pin)、應(ying)用(yong)場(chang)景(jing)與本(ben)地智能(neng)結合起來，并不是一(yi)件(jian)容易的(de)(de)事。與終端(duan)(duan)設(she)備(bei)關系緊密并熟悉應(ying)用(yong)場(chang)景(jing)的(de)(de)模(mo)(mo)組(zu)(zu)廠商，是將(jiang)(jiang)這些串(chuan)聯(lian)起來的(de)(de)最好的(de)(de)橋梁。模(mo)(mo)組(zu)(zu)廠商將(jiang)(jiang)端(duan)(duan)側(ce)(ce)算力(li)模(mo)(mo)組(zu)(zu)與模(mo)(mo)型(xing)技術(shu)(shu)融合，根(gen)據(ju)應(ying)用(yong)場(chang)景(jing)提供適配解決方(fang)案(an)，將(jiang)(jiang)大幅縮短端(duan)(duan)側(ce)(ce)智能(neng)相(xiang)關產品(pin)的(de)(de)落地周期(qi)。移(yi)遠(yuan)通(tong)(tong)信(xin)(xin)的(de)(de)智能(neng)模(mo)(mo)組(zu)(zu)產品(pin)矩陣十分豐(feng)富(fu)，可滿(man)足低、中、高不同(tong)算力(li)需(xu)(xu)求。對于(yu)在(zai)(zai)(zai)計(ji)算能(neng)效上要(yao)求嚴(yan)苛的(de)(de)應(ying)用(yong)，移(yi)遠(yuan)通(tong)(tong)信(xin)(xin)能(neng)提供12 TOPS算力(li)的(de)(de)SG560D，滿(man)足需(xu)(xu)要(yao)兼(jian)顧算力(li)、成本(ben)和(he)功耗(hao)的(de)(de)端(duan)(duan)側(ce)(ce)應(ying)用(yong)；主推(tui)(tui)的(de)(de)搭載高通(tong)(tong)QCS8550平臺的(de)(de)高性(xing)能(neng)AI算力(li)模(mo)(mo)組(zu)(zu)SG885G，成功實現了DeepSeek-R1蒸餾模(mo)(mo)型(xing)的(de)(de)穩定運行，生成Tokens的(de)(de)速(su)度(du)超(chao)過(guo)每秒40個，且隨著(zhu)性(xing)能(neng)的(de)(de)不斷優(you)化，速(su)度(du)還在(zai)(zai)(zai)進一(yi)步提升。移(yi)遠(yuan)通(tong)(tong)信(xin)(xin)產品(pin)總(zong)監王(wang)韜透露，100 TOPS左(zuo)右算力(li)的(de)(de)產品(pin)也(ye)即將(jiang)(jiang)面(mian)世。“終端(duan)(duan)側(ce)(ce)場(chang)景(jing)豐(feng)富(fu)多(duo)(duo)(duo)樣，對算力(li)和(he)通(tong)(tong)信(xin)(xin)功能(neng)的(de)(de)需(xu)(xu)求各不相(xiang)同(tong)，在(zai)(zai)(zai)移(yi)遠(yuan)，我相(xiang)信(xin)(xin)客戶(hu)總(zong)能(neng)找到適合的(de)(de)產品(pin)。”算力(li)硬(ying)件(jian)構(gou)筑起基(ji)礎底座，在(zai)(zai)(zai)模(mo)(mo)型(xing)層(ceng)面(mian)，移(yi)遠(yuan)通(tong)(tong)信(xin)(xin)端(duan)(duan)側(ce)(ce)AI大模(mo)(mo)型(xing)解決方(fang)案(an)以(yi)“LLM（大語言模(mo)(mo)型(xing)）+ RAG（檢索(suo)增強生成）+ Agent（智能(neng)體）”技術(shu)(shu)三角為核心(xin)，通(tong)(tong)過(guo)對AI模(mo)(mo)型(xing)的(de)(de)深度(du)優(you)化與增強，重新定義了 AI 端(duan)(duan)側(ce)(ce)設(she)備(bei)的(de)(de)智能(neng)化邏輯。特別是隨著(zhu)DeepSeek AI模(mo)(mo)型(xing)帶來的(de)(de)開源潮熱度(du)持續上升，今年AI模(mo)(mo)型(xing)在(zai)(zai)(zai)多(duo)(duo)(duo)模(mo)(mo)態領域也(ye)“卷(juan)”了起來，具備(bei)多(duo)(duo)(duo)模(mo)(mo)態交(jiao)互推(tui)(tui)理能(neng)力(li)的(de)(de)多(duo)(duo)(duo)模(mo)(mo)態模(mo)(mo)型(xing)成為焦點。
王韜在采(cai)訪中分享了移遠通(tong)(tong)信在多(duo)(duo)模(mo)(mo)(mo)態模(mo)(mo)(mo)型(xing)上的(de)(de)(de)布局，他表示，“在高(gao)端(duan)(duan)算力(li)模(mo)(mo)(mo)組方(fang)(fang)面，移遠通(tong)(tong)信在端(duan)(duan)側離線(xian)多(duo)(duo)模(mo)(mo)(mo)態大模(mo)(mo)(mo)型(xing)的(de)(de)(de)部署和運行已經取得成果(guo)。針對(dui)低算力(li)模(mo)(mo)(mo)組，可(ke)采(cai)用端(duan)(duan)云融合的(de)(de)(de)方(fang)(fang)式來滿足多(duo)(duo)模(mo)(mo)(mo)態交互(hu)的(de)(de)(de)應(ying)(ying)用場景。”隨著(zhu)算力(li)模(mo)(mo)(mo)組性能(neng)(neng)進(jin)一步提(ti)升，更(geng)多(duo)(duo)智能(neng)(neng)功能(neng)(neng)得以在本(ben)地實現(xian)，這也(ye)意味著(zhu)更(geng)多(duo)(duo)終端(duan)(duan)設(she)備能(neng)(neng)向更(geng)高(gao)階(jie)的(de)(de)(de)智能(neng)(neng)化(hua)(hua)躍升。小到(dao)PC、玩具(ju)、可(ke)穿戴設(she)備，大到(dao)家電、智能(neng)(neng)汽車、具(ju)身智能(neng)(neng)機器人，移遠通(tong)(tong)信憑借全棧AI研發實力(li)，針對(dui)不(bu)同(tong)終端(duan)(duan)應(ying)(ying)用持續(xu)優化(hua)(hua)其AI方(fang)(fang)案，解決(jue)了多(duo)(duo)層次(ci)的(de)(de)(de)軟硬件(jian)AI場景需求，助力(li)終端(duan)(duan)設(she)備智能(neng)(neng)化(hua)(hua)功能(neng)(neng)更(geng)早落地。隨著(zhu)模(mo)(mo)(mo)組廠商持續(xu)優化(hua)(hua)硬件(jian)平(ping)臺、端(duan)(duan)側算法模(mo)(mo)(mo)型(xing)，全力(li)促進(jin)場景落地，端(duan)(duan)側智能(neng)(neng)應(ying)(ying)用有望在今年迎(ying)來爆發式增(zeng)長，成為最值得期待的(de)(de)(de)行業(ye)看點。
展望2025端側AI
展望今年的(de)端側(ce)AI發(fa)展，移遠通信(xin)產品總監王韜表示，“端側(ce)AI市(shi)場(chang)雖然分散，但積少成多，我們認為(wei)這是(shi)一(yi)個巨大的(de)增量市(shi)場(chang)。端側(ce)AI即(ji)將迎來爆發(fa)，端側(ce)設(she)備智(zhi)能提升必將實現(xian)。”
