隨著人工智能技術從(cong)云端(duan)向終(zhong)端(duan)遷移，端(duan)側AI直接在終(zhong)端(duan)設(she)備上運行(xing)AI模(mo)型算法，實現本(ben)地化數據處理，具有低延遲、高(gao)隱私(si)性(xing)、低成本(ben)等(deng)優勢(shi)。端(duan)側AI正成為(wei)推動終(zhong)端(duan)設(she)備向更高(gao)階智能(neng)革(ge)新的(de)(de)核(he)心力量。當AI開始(shi)擁抱終(zhong)端(duan)設(she)備，端(duan)側AI以實體的(de)(de)方式切實讓(rang)消費(fei)者(zhe)感受到AI技術與(yu)終(zhong)端(duan)硬件結合后帶(dai)來的(de)(de)功(gong)能(neng)變革(ge)。
自今年開年以來，端側AI的發展勢頭可謂如火如荼。終端廠商擁抱AI的態度非常積極，上游芯片、模(mo)組廠商也紛紛加碼端側(ce)AI布局(ju)，能很(hen)明顯感受到產業鏈上下游都在追趕端側(ce)AI趨勢，想(xiang)利用(yong)今年端側(ce)AI落(luo)(luo)地發展周期將用(yong)戶生態培養起來。端側(ce)AI，可以說正(zheng)在成為數字經濟(ji)時(shi)代的智能新引擎，今年亦是端側(ce)AI落(luo)(luo)地元(yuan)年。
站在端側AI產業爆發前夕，如何科學解構端側AI發展全景？又該如何把握新機遇，引領行業變革？物聯網智庫特發起《端側AI領袖之(zhi)聲：中國端側AI企業(ye)深度訪談(tan)(tan)專欄》計(ji)劃，邀(yao)請端側AI上(shang)下(xia)游企業(ye)參(can)與訪談(tan)(tan)，為推(tui)動端側AI行業(ye)發展(zhan)提供(gong)有益參(can)考借鑒和指導。
本期《端側AI領袖之聲：中國端側AI企業深度訪談專欄》，物聯網智庫邀請到中國移動拔尖計劃專家、比鄰智聯首(shou)席專家，產(chan)品和研(yan)發負責人——孔棟，就端側AI產(chan)業發展以及比鄰智聯目前的端側AI布局進行了深入交流(liu)。
端側部署帶來獨特價值，比鄰智聯深度布局端側AI
隨著端側AI不斷取得(de)進(jin)展，配(pei)套的(de)芯片、模組(zu)與終(zhong)端設(she)備(bei)在(zai)探(tan)索(suo)場景落地的(de)協(xie)同(tong)上(shang)融(rong)合得(de)更(geng)加深入(ru)，目(mu)前我們已經(jing)看到(dao)很多(duo)AI功能(neng)(neng)不再(zai)只是淺嘗輒止地嵌(qian)入(ru)進(jin)設(she)備(bei)，而是開始深度(du)整合到(dao)終(zhong)端設(she)備(bei)的(de)內核中，端側智(zhi)能(neng)(neng)實(shi)時(shi)性(xing)(xing)與低延(yan)遲、隱私與數據安(an)全(quan)、網絡(luo)獨立性(xing)(xing)、成本優化、個性(xing)(xing)化與自適應等多(duo)方面優勢，也得(de)以進(jin)一步顯現。
比鄰智聯(lian)也(ye)認為“端側AI正逐(zhu)步成為推(tui)動智能技術普適(shi)化與場景(jing)化落地的關鍵力量，相較于(yu)依賴云端集中式處理的傳統模式，端側AI通過本地化推(tui)理實現了低(di)時(shi)延響應、隱私保護和網絡獨立性三大核心價值突破”。
首(shou)先，本(ben)地化計算能夠(gou)實現(xian) 10 毫秒級響應速度，在(zai)自動駕駛(shi)等場(chang)(chang)景中，可完成(cheng)道(dao)路障礙物識別、行人軌跡預判等關鍵操作，將系統決策延遲降低90%；其(qi)次，用(yong)戶生(sheng)物特征(zheng)、工業現(xian)場(chang)(chang)數據等敏感信息無需離端(duan)傳輸，從(cong)技術架構層(ceng)面構建數據安(an)全屏障，避免云(yun)端(duan)存(cun)儲(chu)帶來的(de)隱(yin)私泄漏風險；再者(zhe)，網絡離線(xian)狀態下(xia)(xia)仍可維持核心AI功能運行，保(bao)障智(zhi)能設備在(zai)礦井(jing)、海上(shang)等弱網環境的(de)穩定服(fu)務(wu)能力。值得關注的(de)是，端(duan)側(ce)大模(mo)型并非取代(dai)云(yun)端(duan)，而是形成(cheng)協同(tong)架構，端(duan)側(ce)大模(mo)型和云(yun)端(duan)大模(mo)型在(zai)不同(tong)應用(yong)場(chang)(chang)景下(xia)(xia)結合使用(yong)才能讓大模(mo)型的(de)價值充分發揮。
可以說端側部(bu)署帶來的獨特價值(zhi)，正在(zai)為整個智能(neng)(neng)硬件行業，帶來前所未有的智能(neng)(neng)化升級空間。
而(er)在端(duan)(duan)(duan)側(ce)AI落(luo)地(di)中(zhong)，AI模(mo)(mo)(mo)組(zu)(zu)(zu)提供了合(he)理(li)的(de)(de)(de)算(suan)力并預先(xian)集(ji)成部署(shu)客戶所需要的(de)(de)(de)大模(mo)(mo)(mo)型(xing)，是(shi)終(zhong)端(duan)(duan)(duan)廠商(shang)快速實現端(duan)(duan)(duan)側(ce)智(zhi)(zhi)能(neng)的(de)(de)(de)最佳技術選(xuan)擇。物聯網智(zhi)(zhi)庫(ku)的(de)(de)(de)中(zhong)也表達過相應觀點(dian)，對(dui)于端(duan)(duan)(duan)側(ce)AI產(chan)(chan)業鏈下游(you)的(de)(de)(de)中(zhong)小型(xing)終(zhong)端(duan)(duan)(duan)廠商(shang)，如何便捷快速高效地(di)為(wei)終(zhong)端(duan)(duan)(duan)產(chan)(chan)品賦予本地(di)智(zhi)(zhi)能(neng)是(shi)一道難題，作為(wei)與(yu)終(zhong)端(duan)(duan)(duan)設備關系(xi)最緊(jin)密的(de)(de)(de)模(mo)(mo)(mo)組(zu)(zu)(zu)廠商(shang)，將AI模(mo)(mo)(mo)組(zu)(zu)(zu)與(yu)模(mo)(mo)(mo)型(xing)技術融(rong)合(he)，為(wei)下游(you)提供高效的(de)(de)(de)端(duan)(duan)(duan)側(ce)AI模(mo)(mo)(mo)組(zu)(zu)(zu)產(chan)(chan)品將大幅(fu)縮短端(duan)(duan)(duan)側(ce)智(zhi)(zhi)能(neng)相關產(chan)(chan)品的(de)(de)(de)落(luo)地(di)周期，賦能(neng)終(zhong)端(duan)(duan)(duan)設備享受(shou)AI帶來的(de)(de)(de)變革。
比(bi)鄰(lin)(lin)智(zhi)(zhi)聯作(zuo)為中(zhong)國(guo)移動首批專精特新(xin)重點(dian)培育(yu)團隊，于2023年12月(yue)28日(ri)在重慶兩江新(xin)區(qu)注冊成立，是(shi)中(zhong)國(guo)移動的(de)模(mo)(mo)(mo)組專業公(gong)司，致力于為構(gou)建智(zhi)(zhi)能互聯的(de)全(quan)球物聯網生態(tai)作(zuo)出卓(zhuo)越貢獻。比(bi)鄰(lin)(lin)智(zhi)(zhi)聯已打造“通用(yong)+新(xin)型+行業模(mo)(mo)(mo)組”完善的(de)產品(pin)體(ti)系，涵(han)蓋NB-IoT、4G、5G、車(che)載、AI、衛(wei)星模(mo)(mo)(mo)組及(ji)方(fang)案板產品(pin)，能夠滿足(zu)各類物聯網細分(fen)場景(jing)的(de)需求。當前，比(bi)鄰(lin)(lin)智(zhi)(zhi)聯已在能源(yuan)表計、金融支付(fu)、定位追蹤、共享經濟等行業實現千萬級(ji)銷(xiao)(xiao)量(liang)，蜂窩模(mo)(mo)(mo)組銷(xiao)(xiao)量(liang)份額穩居全(quan)球第二。
在AI模組方面，比(bi)鄰智聯(lian)已推(tui)出MS351A、MS372Q、MS373Q等系列產品(pin)，覆蓋1T～48T多種算(suan)力配置，支持AI算(suan)法和模型部署，確(que)保實時(shi)、安全、可靠的端(duan)側(ce)AI推(tui)理應(ying)用，并提供深(shen)度定制化開發(fa)服務以(yi)滿(man)足多樣化的應(ying)用場(chang)(chang)景(jing)需求。同時(shi)，比(bi)鄰智聯(lian)也(ye)針對工業質檢等細分(fen)場(chang)(chang)景(jing)打造了一體化解決方案，提供“AI+網絡”算(suan)網融(rong)合服務，幫助客戶加速產品(pin)AI升(sheng)級。未(wei)來，比(bi)鄰智聯(lian)將(jiang)持續(xu)豐富(fu)高低算(suan)力搭(da)配的端(duan)側(ce)AI模組系列，擴展更多場(chang)(chang)景(jing)的應(ying)用方案，進一步推(tui)動AI能力與IoT場(chang)(chang)景(jing)的深(shen)度融(rong)合。
中國移動“AI模組+九天大模型”雙輪驅動，重構AI全場景滲透力
AI如何(he)在端(duan)(duan)(duan)(duan)(duan)側(ce)運(yun)行起來，最(zui)終(zhong)實現終(zhong)端(duan)(duan)(duan)(duan)(duan)設(she)備的(de)高(gao)階智能(neng)(neng)(neng)(neng)化，是(shi)產業鏈突破的(de)方向。當(dang)(dang)前(qian)端(duan)(duan)(duan)(duan)(duan)側(ce)AI發(fa)展(zhan)的(de)主要技(ji)術障礙(ai)集中(zhong)在硬件算力(li)、模型(xing)(xing)優(you)化與處(chu)理(li)復(fu)雜任務(wu)能(neng)(neng)(neng)(neng)力(li)之間的(de)平衡。首先，端(duan)(duan)(duan)(duan)(duan)側(ce)設(she)備通(tong)常(chang)體積小巧、功耗受限，難以配(pei)備數據(ju)中(zhong)心使用的(de)高(gao)性(xing)能(neng)(neng)(neng)(neng)算力(li)芯(xin)片。其次，模型(xing)(xing)壓縮(suo)與性(xing)能(neng)(neng)(neng)(neng)之間的(de)權衡也(ye)面臨挑戰，盡管當(dang)(dang)前(qian)主流的(de)模型(xing)(xing)蒸餾技(ji)術能(neng)(neng)(neng)(neng)夠減(jian)少參數量，但往(wang)往(wang)伴隨著(zhu)明顯的(de)精(jing)度下降(jiang)。最(zui)后，端(duan)(duan)(duan)(duan)(duan)側(ce)設(she)備在處(chu)理(li)視覺、語音、傳(chuan)感器等多(duo)種異構數據(ju)時，現有的(de)端(duan)(duan)(duan)(duan)(duan)側(ce)AI框架在跨模態對(dui)齊(qi)能(neng)(neng)(neng)(neng)力(li)上(shang)存(cun)在顯著(zhu)的(de)不足。
在端側AI的(de)產業落(luo)地發展過(guo)程(cheng)中，需要基于垂直(zhi)行業優化的(de)算力(li)模組(zu)以及適配的(de)端側優質模型來解決這些困擾。
比鄰智聯表示(shi)今年會推出更多款不同(tong)算力配置的AI模(mo)(mo)組，搭配DeepSeek、千問、豆包、九(jiu)天等主流(liu)端(duan)側大模(mo)(mo)型(xing)及行業端(duan)側小模(mo)(mo)型(xing)，為不同(tong)場景(jing)提(ti)供精(jing)準匹配的解決方(fang)案，并為客戶提(ti)供從模(mo)(mo)型(xing)優化(hua)到部署的全流(liu)程支持。
目(mu)前(qian)比(bi)鄰智(zhi)(zhi)(zhi)聯已(yi)經全面對接中(zhong)移九天(tian)(tian)基座大(da)(da)模(mo)(mo)(mo)(mo)型(xing)(xing)和(he)(he)九天(tian)(tian)深(shen)度思考大(da)(da)模(mo)(mo)(mo)(mo)型(xing)(xing)，在自然語(yu)(yu)言推理與邏輯(ji)處理方面表現(xian)卓(zhuo)越。九天(tian)(tian)大(da)(da)模(mo)(mo)(mo)(mo)型(xing)(xing)是由中(zhong)國移動九天(tian)(tian)智(zhi)(zhi)(zhi)能團(tuan)隊研發的大(da)(da)規模(mo)(mo)(mo)(mo)預訓(xun)練模(mo)(mo)(mo)(mo)型(xing)(xing)，旨在成為(wei)(wei)人工智(zhi)(zhi)(zhi)能領域的核心引擎。該模(mo)(mo)(mo)(mo)型(xing)(xing)技(ji)術路線更(geng)注(zhu)重多模(mo)(mo)(mo)(mo)態(tai)能力(li)、全棧國產化適配以及垂直行業(ye)深(shen)度優化，以實現(xian)高性能和(he)(he)更(geng)貼近行業(ye)需求的應(ying)用前(qian)景。九天(tian)(tian)已(yi)經發布1B和(he)(he)3B參數量(liang)的端(duan)側語(yu)(yu)言大(da)(da)模(mo)(mo)(mo)(mo)型(xing)(xing)，下半年還會發布2B參數的多模(mo)(mo)(mo)(mo)態(tai)端(duan)側大(da)(da)模(mo)(mo)(mo)(mo)型(xing)(xing)。此外，比(bi)鄰智(zhi)(zhi)(zhi)聯在聯合生(sheng)態(tai)伙(huo)伴積極探索RISC-V國產計算(suan)芯片在端(duan)側AI模(mo)(mo)(mo)(mo)組上的應(ying)用。比(bi)鄰智(zhi)(zhi)(zhi)聯依托中(zhong)國移動強大(da)(da)的科研實力(li)，實現(xian)從模(mo)(mo)(mo)(mo)組硬件到大(da)(da)模(mo)(mo)(mo)(mo)型(xing)(xing)應(ying)用的全鏈路自主可控，為(wei)(wei)行業(ye)提供安全可靠的智(zhi)(zhi)(zhi)能化基座。
“國產模組+場景定制”雙軸賦能，開啟端側智能新時代
當前一些表現突出的端側AI細分市場包括智能手機、AI PC、智能座艙與自動駕駛、AI眼鏡等智能穿戴設備。未來值得關注的潛力市場還包括工業制造中的設備故障預測和質量檢測、智能家居與智(zhi)能生活物聯網、醫療健康(kang)便攜智(zhi)能設備等。不(bu)同(tong)應用場(chang)景對(dui)模(mo)組(zu)(zu)算力(li)、功耗、尺(chi)寸(cun)以(yi)及模(mo)型(xing)的需求有著(zhu)差異，因(yin)此針對(dui)不(bu)同(tong)的垂直行(xing)業細分應用，對(dui)模(mo)組(zu)(zu)進行(xing)適當的工程化配套顯得尤(you)為重要。
在工業(ye)質(zhi)檢(jian)領域(yu)，比鄰智(zhi)聯就已經推(tui)出了一(yi)套(tao)完整的解(jie)決(jue)(jue)方(fang)(fang)案(an)，包括機器(qi)視覺相(xiang)關(guan)算法(fa)，可(ke)以在產(chan)線上(shang)進行全方(fang)(fang)位檢(jian)測(ce)。“中(zhong)低速端(duan)側AI模組在金融(rong)支付領域(yu)發貨量很(hen)大，POS這(zhe)種端(duan)側設備(bei)也有(you)智(zhi)能(neng)化升(sheng)級(ji)的需(xu)求(qiu)，目(mu)前(qian)我們正在和客(ke)戶一(yi)起設計解(jie)決(jue)(jue)方(fang)(fang)案(an)，實現風險防控、防欺詐實時(shi)檢(jian)測(ce)、多模態模型(xing)身份認(ren)證等功能(neng)。”比鄰智(zhi)聯表示。
通過在模組設(she)計上的(de)(de)工程化能(neng)(neng)力，基于(yu)不同行(xing)業(ye)(ye)客戶不同垂直(zhi)應(ying)(ying)用領域(yu)，對端(duan)側AI模組做定制化開(kai)發，模組廠商讓終端(duan)廠商能(neng)(neng)夠快速(su)應(ying)(ying)用到前沿(yan)AI技術，為硬件終端(duan)賦(fu)予(yu)本地智能(neng)(neng)。傳(chuan)統的(de)(de)行(xing)業(ye)(ye)應(ying)(ying)用也(ye)在本地智能(neng)(neng)的(de)(de)加持下(xia)，重構出新的(de)(de)應(ying)(ying)用范式。
比(bi)鄰智聯(lian)特別強調，隨著國產化(hua)模組在算力(li)密度（如異構(gou)計(ji)算架構(gou)優(you)化(hua)）與(yu)算法適(shi)配性（如輕量化(hua)模型(xing)部署）上的持續突破，中國端側 AI 產業鏈將從單(dan)點替代(dai)轉向系統性創新，形成(cheng)從芯片設計(ji)、算法開發(fa)到行(xing)業應用的全閉環生(sheng)態。
展望2025端側AI
展望今年的(de)端(duan)(duan)側AI發(fa)展，比鄰智聯認為，“2025年是(shi)端(duan)(duan)側AI爆(bao)發(fa)之年，端(duan)(duan)側AI將(jiang)深刻重塑整個行業生態。從技(ji)(ji)術(shu)發(fa)展來看，多(duo)模態技(ji)(ji)術(shu)將(jiang)進(jin)一(yi)步推動終端(duan)(duan)設備從單(dan)一(yi)感知向(xiang)一(yi)個多(duo)維交互演(yan)進(jin)；其次端(duan)(duan)側AI芯(xin)片現(xian)在正向(xiang)異構計算架(jia)(jia)構演(yan)進(jin)；存算一(yi)體架(jia)(jia)構也是(shi)技(ji)(ji)術(shu)發(fa)展的(de)重要演(yan)進(jin)方向(xiang)”。
“在模組(zu)端(duan)，比鄰智聯聚焦(jiao)于(yu)通(tong)(tong)用(yong)端(duan)側(ce)AI平臺，再加上(shang)垂直行業定(ding)制策略來構建生態競爭力。通(tong)(tong)過AI模組(zu)加上(shang)預(yu)植入的(de)模型實現端(duan)側(ce)的(de)智能化，將不斷深入挖掘出(chu)端(duan)側(ce)AI各垂直領域的(de)應(ying)用(yong)潛力”。
