人工智能大模型與硬(ying)件的融合正在(zai)如火如荼(tu)地進行，但在(zai)B2C消(xiao)費端似乎遇到了阻力。
據The Information報道(dao)，蘋果前設(she)(she)計總(zong)監(jian)Jony Ive和(he)OpenAI的(de)CEO Sam Altman已(yi)聯(lian)手(shou)設(she)(she)計一款AI驅(qu)動的(de)個人設(she)(she)備，并正(zheng)在(zai)尋求至少(shao)10億美元的(de)融資。然而，過(guo)去幾周發(fa)布的(de)基于最新(xin)AI大(da)模型驅(qu)動的(de)B2C智能(neng)硬件卻(que)受到(dao)了諷刺和(he)批評，如(ru)Humane Pin和(he)Rabbit R1。第(di)一批購買者認為，這些(xie)設(she)(she)備的(de)易用性明(ming)顯不如(ru)智能(neng)手(shou)機。
盡管大模型硬件在B2C領域遇阻，但在B2B領域，大模型與邊緣計算的結合卻取得了突破性進展，推進了智能物聯2.0的演進，朝著“通感智值一體化”邁出了堅實一步。
隨著越來越多企業(ye)開(kai)始將傳感器(qi)、通信網關、控(kong)制(zhi)器(qi)、執行器(qi)等整(zheng)合，形成了(le)“通感智值一體化”，即通信、感知、智能、價值的一體化。
本(ben)文將探索大模型與邊緣計算結合的(de)最新(xin)進展，以及(ji)“通感智值(zhi)一體化(hua)”如何創造更大價值(zhi)。
邊緣智能三大趨勢：云訓練下放、NPU加速、Tiny AI賦能
邊(bian)(bian)(bian)(bian)緣計算是指在數據(ju)產生(sheng)或消費(fei)源(yuan)(yuan)附近部署智能計算資源(yuan)(yuan)。根據(ju)計算能力和(he)部署位置的不同，邊(bian)(bian)(bian)(bian)緣可分為基礎設施邊(bian)(bian)(bian)(bian)緣（厚(hou)邊(bian)(bian)(bian)(bian)緣）、設備邊(bian)(bian)(bian)(bian)緣（薄邊(bian)(bian)(bian)(bian)緣）和(he)終(zhong)端邊(bian)(bian)(bian)(bian)緣（微邊(bian)(bian)(bian)(bian)緣）三種類(lei)型。
基礎設施邊緣（厚邊緣）：通常位(wei)于(yu)數(shu)據中(zhong)心內，配(pei)備了(le)高性能(neng)的(de)(de)中(zhong)央處(chu)理(li)器(CPU)或圖形處(chu)理(li)器(GPU)，專(zhuan)門用于(yu)處(chu)理(li)計(ji)算密集型(xing)任(ren)務，如數(shu)據存儲和分(fen)析(xi)。典型(xing)的(de)(de)厚邊(bian)緣設(she)備包括(kuo)蜂窩無線基站(zhan)、區(qu)域(yu)性數(shu)據中(zhong)心和某些(xie)特(te)定的(de)(de)中(zhong)央機房。
設備邊緣（薄邊緣）：包括智能控制器、網絡設備和計算機，它們負責聚合來自傳感器和其他數據生成設備的數據。常見的薄邊緣設備有物聯網網關、交換機、路由(you)器和(he)本地服務器。
終端邊緣（微邊緣）：指那些(xie)直接生成數據的智能傳感器和設備。
邊緣智能是指(zhi)將人工(gong)智(zhi)能(neng)(neng)模(mo)型部署在邊緣設備上，使其能(neng)(neng)夠在無需持續連接(jie)云端的情況下(xia)實(shi)現AI推理(li)和決策(ce)。
當前，邊緣智能正呈現出三大發展趨勢：厚邊緣AI訓練、薄邊緣和微邊緣NPU加速，以及微邊緣Tiny AI賦能。
云端重擔下放，AI模型訓練遷移至厚邊緣
隨著高性能(neng)CPU和GPU的(de)集成，人(ren)(ren)工(gong)智能(neng)模型訓練(lian)正在從集中式云端向邊緣服務器或微(wei)型數據(ju)(ju)中心轉(zhuan)移(yi)。這不僅降低了(le)對云基礎設(she)施的(de)依賴和成本，還增強了(le)數據(ju)(ju)隱私保護，提高了(le)邊緣設(she)備(bei)上(shang)人(ren)(ren)工(gong)智能(neng)應(ying)用的(de)響應(ying)速(su)度。
這一趨勢有助于實現數據的就地處理和分析，減少了數據在網絡中的傳輸，從而降低了延遲和安全風險，提高了AI應用的實時性和可靠性。
例如MAINGEAR公司(si)和Phison公司(si)聯合推出的(de)PRO AI工(gong)作站(zhan)，以及Aetina公司(si)的(de)AIP-FR68邊緣AI訓練平臺，都體現了(le)這(zhe)一趨勢。
NPU芯片加持，微邊緣和薄邊緣AI推理加速
在微(wei)邊緣和(he)薄邊緣設(she)備(bei)中集成專用的(de)(de)神經(jing)網絡處(chu)理(li)器(qi)(NPU)，可以顯著增(zeng)強其(qi)AI推(tui)理(li)能力，同(tong)時節(jie)省功耗、優化熱管理(li)，實現高(gao)效的(de)(de)多任(ren)務處(chu)理(li)。這使得AI能夠在可穿(chuan)戴設(she)備(bei)和(he)傳(chuan)感器(qi)節(jie)點等(deng)對功耗和(he)延遲敏感的(de)(de)應用中得到廣泛部署(shu)。
NPU的加入使得邊緣設備具備了強大的AI計算能力，可以在本地完成復雜的推理任務，大大減少了對云端的依賴，提高了數據處理的實時性和隱私性。
NXP的(de)新型MCX N系列微控制器(MCU)和ARM的(de)Cortex A55+Ethos U65 NPU設置，展示了NPU集成帶來的(de)性能提(ti)升。NXP的(de)MCU機器學習推理速度比單獨的(de)CPU內核(he)快42倍(bei)；ARM則通過設置將(jiang)70%的(de)AI推理從CPU卸(xie)載到NPU，推理性能提(ti)高了11倍(bei)。
Tiny AI注智，傳統設備秒變微邊緣AI
微型(xing)人(ren)工智(zhi)能(neng)/機(ji)器學習(Tiny AI/ML)則進一步將(jiang)AI能(neng)力引(yin)入資源受限的(de)微邊緣設備(bei)。通過(guo)將(jiang)小型(xing)AI/ML模型(xing)集(ji)成到日常物品和工具中，使其能(neng)夠自主執行決策功能(neng)，無(wu)需云(yun)端連(lian)接，既(ji)增(zeng)強了(le)數(shu)據(ju)隱(yin)私(si)和安全，又賦予了(le)傳統設備(bei)智(zhi)能(neng)化的(de)能(neng)力。
Tiny AI的出現大大拓展了AI的應用場景和范圍，使得傳統的“啞”設備也能夠變得智能化，具備一定的感知、學習和決策能力，為萬物智聯2.0時代的到來奠定了基礎。
例(li)如MY VOICE AI的(de)(de)NANOVOICE語音(yin)驗證方案、SensiML的(de)(de)智能鉆頭異(yi)(yi)常(chang)檢測模型，以(yi)及Nordic Semiconductor的(de)(de)Thingy:53原型設(she)備，都是(shi)微(wei)(wei)型AI/ML在微(wei)(wei)邊緣設(she)備上的(de)(de)創(chuang)新應用。比如Thingy:53使(shi)用嵌入式微(wei)(wei)型機器(qi)學習模型來感測設(she)備振動，該系統可(ke)以(yi)在檢測到異(yi)(yi)常(chang)情況(kuang)時切斷設(she)備或機器(qi)的(de)(de)電源(yuan)。
蜂窩物聯網模組邁向新階段，AI算力成關鍵驅動力
隨著人工智能與蜂窩物聯網的不斷融合，將支持AI的芯片組直接(jie)集(ji)成到物(wu)聯(lian)網設備中已成為一(yi)種新興趨(qu)勢。這標(biao)志著智能、自主的物(wu)聯(lian)網系統正在(zai)崛起，能夠在(zai)本(ben)地(di)進行實時決(jue)策。
這一趨勢有望為智慧城市和(he)工業(ye)制造等領域帶來(lai)革(ge)(ge)命性的(de)(de)變革(ge)(ge)，不僅可(ke)以實(shi)現實(shi)時數據處理、降(jiang)低延遲，還能通過更(geng)小巧(qiao)的(de)(de)設備(bei)尺寸提高效率(lv)。
在這股浪潮中，智能模組和AI蜂窩物聯網模組成為推動市場增長的重要引擎。這類模組搭載了嵌入式計算資源，能夠直接在物聯網設備上執行復雜的數據分析，甚至是AI推理任務。預計到2027年，這些先進模組的出貨量將以76%的年復合增長率持續攀升。
事實上，業界常提及的”算力模組”概念與智能模組和AI蜂窩物聯網模組高度重合，代表了蜂窩物聯網技術的最新發展方向。市場研究機構Counterpoint也發現，2023年模組廠商出貨的產品中，約12%在軟硬件層面具備AI功能。這些(xie)模組(zu)在汽車、路(lu)由器/CPE和PC等高端市場越來越受青(qing)睞，有助于應對這些(xie)領域日益增(zeng)長的數據負(fu)載(zai)。
總體而言，蜂窩物聯網模組的發展歷程可劃分為三個重疊的階段：傳統模組、智能模組和AI使能模組。
傳統物聯網模組作為基本的連接模塊，主要(yao)功能(neng)是實現蜂窩通信，僅包含支持通信的芯(xin)片組，無需(xu)額(e)外功能(neng)。
智能物聯網模組在提(ti)供連(lian)接功能的同時，還集成了額外的計算硬件，如(ru)中(zhong)央(yang)處理器(qi)(CPU)和圖形處理器(qi)(GPU)。
AI使能物聯網模組則在智能(neng)模組的基礎上(shang)，進(jin)一(yi)步集成(cheng)了(le)專用的AI加速芯(xin)片(pian)組，如神經處(chu)(chu)理單(dan)元(NPU)、張量處(chu)(chu)理單(dan)元(TPU)或并行處(chu)(chu)理單(dan)元(PPU)等。
相(xiang)比傳統模組和智能模組，AI使能的(de)蜂窩(wo)物聯(lian)網模組問(wen)世時(shi)間相(xiang)對較短。但它有望徹底改(gai)變各行(xing)各業的(de)面貌。通過將AI直接(jie)集成到物聯(lian)網模組中，AI推(tui)理(li)可以在邊緣側實時(shi)執行(xing)，實現快速、自(zi)主的(de)本地決策。這不僅減少了(le)蜂窩(wo)網絡(luo)上的(de)數據(ju)傳輸，節省(sheng)了(le)帶寬和成本，還(huan)能滿足時(shi)間敏(min)感(gan)型應用的(de)即(ji)時(shi)決策需求(qiu)。
此外，在連接模組中嵌入AI芯片組可以節省空間，簡化物聯網設備的外形尺寸。簡而言之，這些模組正從單純的數據通信推進器，演變為能夠獨立處理工作負載的智能邊緣節點。
例如廣和(he)通(tong)公司的(de)智能(neng)(neng)割(ge)草機器(qi)人(ren)解決方案，就是(shi)AI蜂窩物聯(lian)網模組(zu)的(de)一(yi)個典型應(ying)用(yong)。它利用(yong)高通(tong)智能(neng)(neng)模塊(kuai)實(shi)現強大的(de)設(she)備(bei)端計算，不僅能(neng)(neng)繪(hui)制(zhi)環境圖、避開障礙物，還能(neng)(neng)經濟高效地(di)識別割(ge)草范圍(wei)，而無需持續連(lian)接云(yun)端。這充分展(zhan)示了支持AI芯片組(zu)在(zai)物聯(lian)網設(she)備(bei)中的(de)實(shi)際(ji)價值。
創通聯(lian)達(da)公司的EB3G2物(wu)聯(lian)網邊緣網關，則(ze)利用高通SoC執(zhi)行設備上的AI模型。該(gai)SoC可(ke)實現即時(shi)數據分析(xi)，減少延遲和云(yun)依賴。網關內(nei)置的算法能夠(gou)進行人體檢測和跟蹤，對(dui)安全(quan)和流量(liang)管理等(deng)場景大有裨益。
通感智值一體化的未來：泛在智能、極致體驗、生態共榮
隨(sui)著邊緣智(zhi)能的不斷發展和蜂窩物聯網模組的升級(ji)迭(die)代，通(tong)感智(zhi)值一體(ti)化正迎來(lai)更加廣闊的發展前景。未來(lai)，我(wo)們(men)有(you)望看到泛在智(zhi)能、極(ji)致體(ti)驗和生態共(gong)榮成為這一領(ling)域的主旋(xuan)律(lv)。
泛在智能：從感知到決策的全面智能化
未來，通感(gan)智(zhi)(zhi)值一體(ti)化(hua)將(jiang)實現(xian)從感(gan)知到決策的(de)全面智(zhi)(zhi)能(neng)化(hua)。得益于(yu)Tiny AI等技術的(de)進步，越(yue)來越(yue)多的(de)傳(chuan)統傳(chuan)感(gan)器和設(she)備將(jiang)具(ju)備微邊(bian)緣AI能(neng)力(li)，能(neng)夠在本地完成初步的(de)數據分析和決策，真正(zheng)實現(xian)”智(zhi)(zhi)慧感(gan)知”。
同時，在(zai)(zai)薄(bo)邊(bian)緣(yuan)和厚邊(bian)緣(yuan)側，NPU等專用芯片的加持將進(jin)一步提升AI推(tui)理和訓練的速度與效率，推(tui)動更多復雜AI應用的落地(di)。隨著AI能力(li)向邊(bian)緣(yuan)側的不斷下沉，未來的通感智值系統將呈現出無(wu)所不在(zai)(zai)、無(wu)時不在(zai)(zai)的泛在(zai)(zai)智能特征。
極致體驗：實時響應、高效協同的用戶體驗
通感智值一體化的另一重要發展方向，是為用戶帶來實時響應、高效協同的極致體驗。當前，邊緣智能已經能夠顯著降低數據傳輸延遲，但仍難以滿足工業元宇宙、無人駕駛等(deng)延遲敏(min)感型應用的苛(ke)刻要(yao)求。
未來，通過引(yin)入5G/6G等新一(yi)代通信技術，并進(jin)一(yi)步升(sheng)級(ji)邊(bian)緣(yuan)側的計算、存儲架構，有望將端(duan)到端(duan)時延降(jiang)至毫秒級(ji)，甚至是微秒級(ji)，從而(er)實(shi)(shi)現(xian)真正(zheng)的實(shi)(shi)時交互。
此(ci)外(wai)，隨(sui)著異構(gou)算力(li)的(de)協(xie)同能力(li)不(bu)斷增(zeng)強，不(bu)同層級的(de)智能設(she)備之(zhi)間將能夠更加高效地協(xie)作，提(ti)供(gong)無縫銜接的(de)沉浸式體驗(yan)。
生態共榮：開放融合、多方共贏的發展格局
隨(sui)著通(tong)感智(zhi)值一體(ti)化生態日趨成(cheng)熟，開放融合、多(duo)(duo)方共贏將(jiang)成(cheng)為行業的主旋(xuan)律(lv)。一方面，軟硬件開源平臺的興起，將(jiang)加速邊緣智(zhi)能技術(shu)的普(pu)及和迭代，讓更多(duo)(duo)中小企(qi)業和創新團隊(dui)參與到生態建(jian)設中來。
另一方面，跨界融合(he)(he)將成為常態，芯片廠商(shang)、設備制造商(shang)、通信運營(ying)商(shang)、軟件服務商(shang)等產業鏈各方將加強合(he)(he)作，充(chong)分發(fa)揮各自優勢，共同推動行業的良性發(fa)展。
此外，邊緣智(zhi)能與云計算、區塊鏈等技術的融合創新，也將催生出更多(duo)全新的應用場景和商業(ye)模式，為通感智(zhi)值一體(ti)化注(zhu)入新的活力。
總(zong)而(er)言之(zhi)，通感智值一(yi)體(ti)化(hua)正(zheng)處于從量變到質變的(de)關鍵時期。隨著(zhu)泛在(zai)智能(neng)、極(ji)致體(ti)驗、生態共榮等趨勢的(de)不(bu)斷深入，邊緣側智能(neng)化(hua)將(jiang)進入一(yi)個全新的(de)發展階段。
寫在最后
縱觀全文，我(wo)們(men)不難(nan)發(fa)現，通(tong)感智值一體化正以(yi)前所(suo)未有的速(su)度和廣度重塑(su)著智能(neng)物聯網的發(fa)展格局。
從云端到(dao)(dao)邊緣，從感知到(dao)(dao)決策，從芯片到(dao)(dao)模組，從算法(fa)到(dao)(dao)應用，智能(neng)正在滲透和重構物聯網的方(fang)方(fang)面(mian)面(mian)。這一(yi)切，無不昭示著一(yi)個全新時(shi)代的到(dao)(dao)來。
在(zai)這個時(shi)代，邊(bian)緣不再是云的(de)(de)附庸，而(er)是智(zhi)能(neng)的(de)(de)重要(yao)載體和源(yuan)泉；感知(zhi)不再是盲目的(de)(de)數據采(cai)集，而(er)是具備分(fen)析和決策(ce)能(neng)力(li)的(de)(de)智(zhi)慧行(xing)為；連接不再是簡(jian)單的(de)(de)數據傳輸，而(er)是智(zhi)能(neng)協同與融合的(de)(de)紐(niu)帶(dai)。通感、智(zhi)能(neng)、價值，正在(zai)深度交(jiao)融，共同編織(zhi)出一(yi)張覆蓋(gai)全球的(de)(de)智(zhi)能(neng)物聯2.0大網。
