隨著人工智能技(ji)(ji)術從云端(duan)向(xiang)終端(duan)遷移，端(duan)側(ce)(ce)(ce)AI直接在(zai)終端(duan)設(she)備上運(yun)行(xing)AI模型算法(fa)，實(shi)現本(ben)地(di)化數據處理，具有低延遲、高(gao)隱私性、低成(cheng)本(ben)等(deng)優勢。端(duan)側(ce)(ce)(ce)AI正成(cheng)為推動終端(duan)設(she)備向(xiang)更高(gao)階智能革新的核心(xin)力量(liang)。當AI開始擁抱終端(duan)設(she)備，端(duan)側(ce)(ce)(ce)AI以實(shi)體的方式切實(shi)讓消費者感受到(dao)AI技(ji)(ji)術與終端(duan)硬件(jian)結合(he)后帶來的功能變革。
自今年開年以來，端側AI的發展勢頭可謂如火如荼。終端廠商擁抱AI的態度非常積極，上游芯片、模(mo)組廠商也紛紛加(jia)碼(ma)端(duan)側(ce)(ce)AI布局(ju)，能很明顯感受到(dao)產業鏈上(shang)下(xia)游(you)都在(zai)追趕(gan)端(duan)側(ce)(ce)AI趨勢，想利(li)用今(jin)年(nian)端(duan)側(ce)(ce)AI落地(di)發(fa)展(zhan)周(zhou)期將用戶(hu)生態培養起來。端(duan)側(ce)(ce)AI，可以說正在(zai)成為數字(zi)經(jing)濟時代的智(zhi)能新引擎，今(jin)年(nian)亦(yi)是(shi)端(duan)側(ce)(ce)AI落地(di)元年(nian)。
站在端側AI產業爆發前夕，如何科學解構端側AI發展全景？又該如何把握新機遇，引領行業變革？物聯網智庫特發起《端側AI領袖之聲：中國(guo)端側AI企(qi)業深(shen)度訪(fang)談專欄》計(ji)劃，邀請端側AI上下(xia)游企(qi)業參與訪(fang)談，為(wei)推動端側AI行業發展提(ti)供有(you)益參考借鑒(jian)和指導。
本期《端側AI領袖之聲：中國端側AI企業深度訪談專欄》，物聯網智庫邀請到中國移動拔尖計(ji)劃專(zhuan)家、比鄰智(zhi)聯首席專(zhuan)家，產(chan)品和研發(fa)負責人——孔棟(dong)，就端(duan)側(ce)AI產(chan)業發(fa)展(zhan)以(yi)及比鄰智(zhi)聯目前的(de)端(duan)側(ce)AI布局進行了(le)深入交流(liu)。
端側部署帶來獨特價值，比鄰智聯深度布局端側AI
隨著端側AI不斷取得(de)進展(zhan)，配套的(de)(de)芯片(pian)、模組與(yu)(yu)(yu)終端設備(bei)(bei)(bei)在探索場景(jing)落地的(de)(de)協同上融合得(de)更加深入，目前我們已(yi)經看(kan)到(dao)很多AI功能不再(zai)只是淺(qian)嘗輒止地嵌(qian)入進設備(bei)(bei)(bei)，而是開始深度整合到(dao)終端設備(bei)(bei)(bei)的(de)(de)內核(he)中，端側智能實時性(xing)與(yu)(yu)(yu)低延遲、隱私與(yu)(yu)(yu)數據安全(quan)、網絡(luo)獨立性(xing)、成本(ben)優(you)(you)化(hua)(hua)、個性(xing)化(hua)(hua)與(yu)(yu)(yu)自適應等多方面優(you)(you)勢，也得(de)以進一步(bu)顯現。
比鄰智聯也認為“端側AI正(zheng)逐步成為推(tui)動(dong)智能技術普(pu)適化(hua)與場景化(hua)落地(di)的關(guan)鍵力量，相較于依賴云端集(ji)中式處理(li)的傳(chuan)統(tong)模式，端側AI通(tong)過本(ben)地(di)化(hua)推(tui)理(li)實(shi)現了低時延響應、隱私(si)保護和(he)網絡獨立(li)性三大核心價值突破(po)”。
首先，本地化計(ji)算能夠實現(xian) 10 毫秒(miao)級響應速度，在自動駕(jia)駛等(deng)場(chang)景(jing)中，可(ke)完成道(dao)路障礙物識別、行人軌跡(ji)預判等(deng)關鍵操作，將系統決策延遲降低90%；其次，用(yong)戶生(sheng)物特征、工業現(xian)場(chang)數據等(deng)敏感信息無需離端(duan)傳輸，從技術架構(gou)(gou)層面構(gou)(gou)建數據安全屏障，避(bi)免(mian)云(yun)端(duan)存(cun)儲帶來的隱私泄漏(lou)風險；再者，網絡離線狀(zhuang)態下仍可(ke)維(wei)持(chi)核心AI功能運行，保障智能設備在礦井、海上(shang)等(deng)弱(ruo)網環境(jing)的穩定(ding)服(fu)務能力。值得關注(zhu)的是(shi)，端(duan)側大(da)模(mo)(mo)型(xing)并(bing)非取(qu)代(dai)云(yun)端(duan)，而是(shi)形(xing)成協(xie)同架構(gou)(gou)，端(duan)側大(da)模(mo)(mo)型(xing)和云(yun)端(duan)大(da)模(mo)(mo)型(xing)在不(bu)同應用(yong)場(chang)景(jing)下結合使用(yong)才能讓大(da)模(mo)(mo)型(xing)的價值充分發揮。
可以說端側部署帶(dai)來的獨特價(jia)值(zhi)，正在為整(zheng)個智能(neng)硬件行業，帶(dai)來前所未有的智能(neng)化升級(ji)空(kong)間。
而在端(duan)側(ce)AI落地中(zhong)，AI模組提(ti)供了合理的算(suan)力并(bing)預先集成部署客戶所需要的大(da)模型(xing)，是(shi)終端(duan)廠商(shang)快速(su)實現(xian)端(duan)側(ce)智能(neng)(neng)的最佳(jia)技(ji)術選擇。物聯網智庫的中(zhong)也(ye)表(biao)達過相應觀點(dian)，對于端(duan)側(ce)AI產(chan)業鏈下游(you)的中(zhong)小型(xing)終端(duan)廠商(shang)，如何便捷快速(su)高效地為終端(duan)產(chan)品賦(fu)予本地智能(neng)(neng)是(shi)一道難題(ti)，作為與(yu)(yu)終端(duan)設備關系最緊密的模組廠商(shang)，將AI模組與(yu)(yu)模型(xing)技(ji)術融合，為下游(you)提(ti)供高效的端(duan)側(ce)AI模組產(chan)品將大(da)幅縮短(duan)端(duan)側(ce)智能(neng)(neng)相關產(chan)品的落地周期，賦(fu)能(neng)(neng)終端(duan)設備享受AI帶來的變革。
比(bi)鄰智聯作為(wei)中(zhong)國(guo)移動首批專精特新重(zhong)點培育(yu)團隊，于2023年12月(yue)28日在重(zhong)慶(qing)兩江(jiang)新區注(zhu)冊成立，是中(zhong)國(guo)移動的(de)模(mo)(mo)組(zu)專業公司，致力于為(wei)構建智能互聯的(de)全球(qiu)物聯網生(sheng)態作出卓越貢獻(xian)。比(bi)鄰智聯已打(da)造“通用+新型+行業模(mo)(mo)組(zu)”完善的(de)產品體系(xi)，涵蓋NB-IoT、4G、5G、車載、AI、衛(wei)星模(mo)(mo)組(zu)及方案板產品，能夠滿足各類物聯網細分場景的(de)需求。當(dang)前，比(bi)鄰智聯已在能源(yuan)表計(ji)、金(jin)融(rong)支付、定位追蹤、共享(xiang)經(jing)濟等行業實(shi)現千萬級銷量(liang)，蜂(feng)窩模(mo)(mo)組(zu)銷量(liang)份額穩居全球(qiu)第二(er)。
在AI模(mo)組方面(mian)，比鄰(lin)智聯(lian)(lian)已推(tui)出MS351A、MS372Q、MS373Q等(deng)系列產(chan)品(pin)，覆蓋1T～48T多(duo)種算(suan)(suan)力(li)配(pei)置，支持AI算(suan)(suan)法和(he)模(mo)型部署，確保實(shi)時、安全、可靠的(de)(de)端側AI推(tui)理應(ying)(ying)用(yong)，并提供深度定制化(hua)開發服務以滿(man)足多(duo)樣化(hua)的(de)(de)應(ying)(ying)用(yong)場景需求。同時，比鄰(lin)智聯(lian)(lian)也針對工業質檢等(deng)細分場景打造(zao)了一體化(hua)解決(jue)方案(an)(an)，提供“AI+網(wang)絡(luo)”算(suan)(suan)網(wang)融(rong)合服務，幫助客戶加速產(chan)品(pin)AI升級。未來(lai)，比鄰(lin)智聯(lian)(lian)將持續豐富(fu)高(gao)低(di)算(suan)(suan)力(li)搭配(pei)的(de)(de)端側AI模(mo)組系列，擴展更多(duo)場景的(de)(de)應(ying)(ying)用(yong)方案(an)(an)，進一步推(tui)動AI能力(li)與IoT場景的(de)(de)深度融(rong)合。
中國移動“AI模組+九天大模型”雙輪驅動，重構AI全場景滲透力
AI如(ru)何在(zai)端(duan)側運行起來，最(zui)終(zhong)實現終(zhong)端(duan)設(she)備(bei)(bei)(bei)的(de)(de)高階智能(neng)(neng)化(hua)，是產業鏈突(tu)破的(de)(de)方向。當前端(duan)側AI發展的(de)(de)主要技術(shu)障礙集中在(zai)硬件(jian)算力(li)(li)、模型(xing)(xing)優化(hua)與處理(li)復雜(za)任(ren)務能(neng)(neng)力(li)(li)之間(jian)的(de)(de)平衡。首先，端(duan)側設(she)備(bei)(bei)(bei)通常體積小(xiao)巧、功耗受(shou)限，難以(yi)配備(bei)(bei)(bei)數(shu)(shu)據中心(xin)使用的(de)(de)高性(xing)能(neng)(neng)算力(li)(li)芯片。其次(ci)，模型(xing)(xing)壓縮(suo)與性(xing)能(neng)(neng)之間(jian)的(de)(de)權衡也面臨挑戰，盡管當前主流的(de)(de)模型(xing)(xing)蒸餾技術(shu)能(neng)(neng)夠減少參數(shu)(shu)量(liang)，但(dan)往(wang)往(wang)伴隨著(zhu)明(ming)顯(xian)的(de)(de)精度下降。最(zui)后，端(duan)側設(she)備(bei)(bei)(bei)在(zai)處理(li)視(shi)覺、語音、傳感器等多種異構(gou)數(shu)(shu)據時，現有的(de)(de)端(duan)側AI框架在(zai)跨模態對齊能(neng)(neng)力(li)(li)上存在(zai)顯(xian)著(zhu)的(de)(de)不足。
在端側AI的(de)產(chan)業落地發展(zhan)過程中，需要基(ji)于垂直行業優化的(de)算力模組以(yi)及(ji)適配的(de)端側優質模型(xing)來(lai)解決這些困擾。
比鄰(lin)智聯表示今年會推出更多(duo)款不(bu)同算力配(pei)(pei)置的AI模(mo)組(zu)，搭配(pei)(pei)DeepSeek、千問、豆包、九天等主流(liu)端(duan)側大模(mo)型及行業端(duan)側小(xiao)模(mo)型，為(wei)不(bu)同場景提供(gong)精準匹配(pei)(pei)的解(jie)決方案，并為(wei)客戶提供(gong)從(cong)模(mo)型優化到部署的全流(liu)程支持。
目(mu)前比鄰(lin)智(zhi)(zhi)聯已(yi)經(jing)全(quan)(quan)面(mian)(mian)對接(jie)中(zhong)移九(jiu)天(tian)基座大(da)(da)(da)模(mo)(mo)(mo)型和九(jiu)天(tian)深度(du)思考大(da)(da)(da)模(mo)(mo)(mo)型，在(zai)自然語言推理與邏輯(ji)處理方面(mian)(mian)表現卓越。九(jiu)天(tian)大(da)(da)(da)模(mo)(mo)(mo)型是由中(zhong)國(guo)移動九(jiu)天(tian)智(zhi)(zhi)能(neng)團隊研(yan)發的大(da)(da)(da)規模(mo)(mo)(mo)預(yu)訓練模(mo)(mo)(mo)型，旨在(zai)成為人工智(zhi)(zhi)能(neng)領(ling)域的核心引(yin)擎。該模(mo)(mo)(mo)型技術路線更注重(zhong)多模(mo)(mo)(mo)態(tai)能(neng)力、全(quan)(quan)棧國(guo)產(chan)(chan)化適配以及垂直行業深度(du)優化，以實(shi)(shi)現高性能(neng)和更貼近行業需求的應(ying)用(yong)前景。九(jiu)天(tian)已(yi)經(jing)發布1B和3B參數量(liang)的端側語言大(da)(da)(da)模(mo)(mo)(mo)型，下(xia)半年(nian)還(huan)會發布2B參數的多模(mo)(mo)(mo)態(tai)端側大(da)(da)(da)模(mo)(mo)(mo)型。此(ci)外(wai)，比鄰(lin)智(zhi)(zhi)聯在(zai)聯合生態(tai)伙(huo)伴積極探索(suo)RISC-V國(guo)產(chan)(chan)計算芯片在(zai)端側AI模(mo)(mo)(mo)組上的應(ying)用(yong)。比鄰(lin)智(zhi)(zhi)聯依托(tuo)中(zhong)國(guo)移動強(qiang)大(da)(da)(da)的科研(yan)實(shi)(shi)力，實(shi)(shi)現從模(mo)(mo)(mo)組硬件到大(da)(da)(da)模(mo)(mo)(mo)型應(ying)用(yong)的全(quan)(quan)鏈路自主(zhu)可控，為行業提供安全(quan)(quan)可靠的智(zhi)(zhi)能(neng)化基座。
“國產模組+場景定制”雙軸賦能，開啟端側智能新時代
當前一些表現突出的端側AI細分市場包括智能手機、AI PC、智能座艙與自動駕駛、AI眼鏡等智能穿戴設備。未來值得關注的潛力市場還包括工業制造中的設備故障預測和質量檢測、智能家居與智能生活物聯網(wang)、醫療健康便攜智能設備等。不同(tong)應用場景對(dui)模組算(suan)力、功耗(hao)、尺寸以及模型(xing)的需求有(you)著差異，因(yin)此針對(dui)不同(tong)的垂直行(xing)(xing)業細分應用，對(dui)模組進(jin)行(xing)(xing)適(shi)當的工程化(hua)配套顯得尤為(wei)重要。
在(zai)(zai)工(gong)業質檢領(ling)(ling)域，比鄰智聯就已經推出了一套完(wan)整的(de)解決方(fang)案，包括機器(qi)視覺(jue)相(xiang)關算法，可(ke)以在(zai)(zai)產線上進行全方(fang)位檢測。“中(zhong)低速(su)端側(ce)(ce)AI模(mo)(mo)組在(zai)(zai)金融支付領(ling)(ling)域發貨量很大，POS這種端側(ce)(ce)設(she)備也有(you)智能(neng)(neng)化升級的(de)需(xu)求(qiu)，目(mu)前我(wo)們正在(zai)(zai)和客(ke)戶一起(qi)設(she)計解決方(fang)案，實(shi)現(xian)風險防控、防欺詐(zha)實(shi)時檢測、多模(mo)(mo)態模(mo)(mo)型身份認證等功能(neng)(neng)。”比鄰智聯表示。
通(tong)過在(zai)模(mo)組設(she)計上(shang)的工程化能(neng)力，基于不同行業(ye)客戶不同垂(chui)直應(ying)(ying)用(yong)領域，對端側AI模(mo)組做定制化開發(fa)，模(mo)組廠商讓終端廠商能(neng)夠快速(su)應(ying)(ying)用(yong)到前沿AI技術，為(wei)硬件終端賦予本地(di)智能(neng)。傳(chuan)統的行業(ye)應(ying)(ying)用(yong)也在(zai)本地(di)智能(neng)的加持(chi)下，重構出新的應(ying)(ying)用(yong)范式。
比鄰(lin)智聯特別(bie)強調，隨著國(guo)產(chan)化(hua)模組在算力密度（如異構計算架(jia)構優化(hua)）與算法(fa)適配性(xing)（如輕量化(hua)模型(xing)部署）上的持(chi)續突破，中國(guo)端(duan)側 AI 產(chan)業鏈將從(cong)單點替代轉向系(xi)統性(xing)創(chuang)新，形成從(cong)芯片設計、算法(fa)開發(fa)到行業應用的全閉環生態。
展望2025端側AI
展望(wang)今年(nian)(nian)的端(duan)側AI發展，比(bi)鄰智聯認為，“2025年(nian)(nian)是端(duan)側AI爆(bao)發之(zhi)年(nian)(nian)，端(duan)側AI將深刻重(zhong)塑整個(ge)行業(ye)生態。從技術(shu)發展來看(kan)，多(duo)模態技術(shu)將進(jin)一步推動(dong)終端(duan)設備(bei)從單一感知(zhi)向一個(ge)多(duo)維(wei)交互(hu)演進(jin)；其(qi)次端(duan)側AI芯片現在正(zheng)向異(yi)構計算架(jia)構演進(jin)；存算一體架(jia)構也是技術(shu)發展的重(zhong)要演進(jin)方(fang)向”。
“在模(mo)組端，比鄰(lin)智聯聚(ju)焦于通(tong)用端側(ce)AI平臺(tai)，再加上垂直(zhi)行業定制策略來構(gou)建(jian)生態競(jing)爭力(li)。通(tong)過(guo)AI模(mo)組加上預植入(ru)的模(mo)型實現(xian)端側(ce)的智能化，將(jiang)不斷(duan)深入(ru)挖(wa)掘出端側(ce)AI各垂直(zhi)領域(yu)的應用潛力(li)”。
