作者：彭昭（智次方創始人、云和資本(ben)聯合創始合伙人）
這(zhe)是我的第354篇專欄文章。
前幾(ji)篇文章，我們不斷探討小(xiao)模(mo)型（SLM）在端側(ce)和邊緣側(ce)的(de)(de)崛起。現在，邊緣側(ce)小(xiao)模(mo)型已然(ran)成為不可忽(hu)視的(de)(de)發展趨勢。
AI模(mo)型(xing)猶如軟件(jian)，需要硬件(jian)作為載體方能發揮作用。
面(mian)對邊緣(yuan)AI的迅猛發(fa)展，我們不禁要(yao)問：邊緣(yuan)硬件是否已經做好(hao)準備了？
生成式AI模型要落地應用，離不開邊緣硬件的支撐。對開發者和最終用戶而言，邊緣硬件就是駕馭AI的利器。
一個優秀(xiu)的(de)硬(ying)件“工(gong)具”，如(ru)同一柄削(xue)鐵如(ru)泥的(de)神兵，若能遇到善加利用的(de)主人(ren)，定能所向披靡(mi)，威力驚人(ren)。
如今，邊(bian)緣(yuan)設備的(de)算力與(yu)日俱增，從過去的(de)幾個TOPS@INT8（每(mei)秒(miao)可執(zhi)行數兆(zhao)次八(ba)位整數運算），躍升至數十TOPS的(de)量級。這意味著邊(bian)緣(yuan)硬件即使在斷網狀態下，也能獨立完(wan)成SLM的(de)推理任務，大(da)大(da)拓寬了應(ying)用場景。
伴隨SLM的發展，多家企業紛紛推出針對SLM優化的邊緣智能開發板。尤其值得關注(zhu)的(de)(de)(de)是，在上周，英偉達發布(bu)了(le)令人矚目的(de)(de)(de)新品，將邊緣硬件的(de)(de)(de)性(xing)能和(he)性(xing)價比推向了(le)新的(de)(de)(de)高(gao)度。
12月17日，英偉達CEO黃(huang)仁勛(xun)在發(fa)布的視頻中，從烤箱端(duan)出最新(xin)“烹飪”的全新(xin)邊緣開發(fa)套件Jetson Orin Nano Super。
這款(kuan)“邊(bian)緣(yuan)AI大(da)腦”不僅性能更(geng)為(wei)強勁(jing)，售價更(geng)是直降一半(ban)，僅需249美元（人民幣(bi)2000元以內）。這無疑將掀起邊(bian)緣(yuan)AI的一場革命。
這一產品(pin)的(de)問(wen)世，不僅將會掀起一場全球范圍內的(de)邊(bian)緣(yuan)AI開發板(ban)大戰，也為中(zhong)國企業在邊(bian)緣(yuan)AI領域的(de)發展提(ti)供了難得的(de)機(ji)遇。
本文將(jiang)從英偉達新品的特點、邊緣(yuan)AI開發板的競(jing)爭格局、中國企業的機遇與(yu)挑戰等角度，深入探討這場(chang)邊緣(yuan)AI革(ge)命的意義與(yu)影響。
讓我(wo)們(men)做好準備，一起迎(ying)接即將來臨的端側AI、邊緣AI硬(ying)件(jian)的“寒武紀”物種大爆發階段。
重新定義邊緣AI的可能性
在介紹英偉達新品之前，有(you)必(bi)要(yao)明確端側(ce)AI和(he)邊緣(yuan)側(ce)AI硬件所涵蓋的(de)范圍(wei)相當廣泛(fan)，從數(shu)十元(yuan)到數(shu)百(bai)萬的(de)解(jie)決方案任選，可(ke)謂豐(feng)儉(jian)由君，應(ying)有(you)盡(jin)有(you)。
廣義而言，凡(fan)是無(wu)需聯網即可(ke)完(wan)成(cheng)AI推理任(ren)務的硬件，都應歸入邊(bian)緣(yuan)AI的范疇。相較(jiao)端側(ce)，邊(bian)緣(yuan)側(ce)對算力(li)和功耗(hao)的要求更高。業(ye)界普遍認為，AI工業(ye)電腦、嵌入式設備(bei)、電池供電的可(ke)穿戴(dai)設備(bei)以及(ji)服務機器人(ren)等，都屬于邊(bian)緣(yuan)側(ce)AI的典型(xing)應用。
當然(ran)，面向這些邊緣AI設備的解決(jue)方案(an)也是形態各異，包(bao)(bao)括微處理器（MPU/SoC）開(kai)發(fa)板(ban)、類樹莓派型開(kai)發(fa)板(ban)、TPU加速棒等，當然(ran)也包(bao)(bao)括黃仁勛(xun)此(ci)次端上的“佳肴”：Jetson Orin Nano Super開(kai)發(fa)套件。
這款全新發(fa)布(bu)的(de)產品是Jetson Nano系(xi)列(lie)(lie)的(de)升級(ji)版，堪稱目前該系(xi)列(lie)(lie)中(zhong)“性價比(bi)之(zhi)王”。在性能(neng)大幅提升的(de)同時，售(shou)價卻直降一半，僅需(xu)249美(mei)元（人民幣2000元以(yi)內）。
與前代產品相比，Nano Super的(de)AI推(tui)理(li)性能提高了1.7倍，整(zheng)體性能飆升70%，達到(dao)驚(jing)人的(de)67 TOPS@INT8。此外(wai)，Nano Super的(de)內存帶(dai)寬增加至(zhi)102GB/s，較前代提升50%：CPU頻率(lv)也從1.5GHz升至(zhi)1.7GHz：而整(zheng)機尺寸卻只有一個手掌大小(xiao)，功耗僅需25瓦。
Jetson Orin Nano Super支持同(tong)時調用(yong)多達四個(ge)攝像頭(tou)，并提供比(bi)前代更高的分(fen)辨率(lv)和幀率(lv)。性能的全面升(sheng)級，將為主(zhu)流生成式(shi)AI模型和基于Transformer的計算(suan)機(ji)視覺算(suan)法帶來顯(xian)著增益(yi)。
這款革命性的AI開發套件，將讓機器人、工業自動化領域的開發者以及各行各業的硬件工程師，無需連接云平臺，即可在邊緣側實現高效AI運算，大幅降低成本和延遲。
在談到英偉達新品的同時，我們還需要關注美國對華芯片限制令(ling)可能帶來(lai)的影響(xiang)。
就在新品發布隔日，12月19日，美國(guo)商務部要求(qiu)英偉達調查(cha)該公司產品在過去一年中(zhong)流入(ru)中(zhong)國(guo)大陸(lu)的情況。
然而(er)，查(cha)閱美(mei)國(guo)商(shang)務部(bu)工(gong)業和安全局（BIS）發(fa)(fa)布的(de)額外(wai)出口管制(zhi)規(gui)定可(ke)以發(fa)(fa)現(xian)，ECCN 3A090項(xiang)下的(de)相關注釋明(ming)確(que)指出，非數據中心類且TPP未超過4800的(de)芯(xin)(xin)片不在(zai)該(gai)項(xiang)管制(zhi)范圍(wei)內。這意(yi)味著(zhu)絕大(da)多(duo)數用于筆記本電(dian)腦、智能手(shou)機和游戲機等(deng)消(xiao)費電(dian)子產品的(de)芯(xin)(xin)片不受(shou)影響。
因此，英偉達Jetson系列產品可以通(tong)過正常渠道在(zai)中國銷(xiao)售。這款新品的推出，必將點燃更多創新開發者(zhe)和應用(yong)企業的熱情(qing)。
邊緣AI高性價比時代來臨
英偉達新品的問世，勢必引發一場AI開發板的激烈角逐。
市面上與Jetson Orin Nano相似(si)的(de)(de)產品不(bu)在(zai)少數(shu)，各家都聲稱自己的(de)(de)算(suan)力高、性能強。曾(ceng)有國(guo)外開發(fa)者對當時最(zui)熱門的(de)(de)三款AI開發(fa)板進行了(le)橫(heng)向對比，分別是(shi)樹莓(mei)派+英(ying)(ying)特爾神經網絡計(ji)算(suan)棒、英(ying)(ying)偉達(da)Jetson Orin Nano和Google Coral。
結果發現，沒有任何一款開發板能夠達到官方宣稱的最高效率。
測試之后，這名開發者還很可愛的透露：This post is sponsored by Coral from Google。可見谷歌(ge)也是相當(dang)“心大”，認可這份客觀(guan)中立、至(zhi)少沒(mei)被(bei)打臉的測試結果(guo)。
無論哪家產品(pin)更勝一籌(chou)，對開發者而言，高性(xing)價比、算力強勁的AI開發板時代已經到來。今(jin)后，再也沒有“算力昂貴、難(nan)出(chu)佳作”的借(jie)口了。
由此，圍繞邊緣AI的最新“安迪-比爾定律”之爭也拉開了帷幕。這一定律曾(ceng)為IT產業創造了(le)一種完(wan)美模式(shi)：What Andy gives，Bill takes away。如今，這一法則正在邊緣(yuan)AI領域重演(yan)。
除了本次新(xin)品(pin)，英偉達還(huan)計劃在(zai)2025年推(tui)出Jetson Thor，以爭(zheng)奪更大的AI硬件市場份額：而OpenAI則(ze)計劃在(zai)2025年1月(yue)發布(bu)能夠獨立(li)執行任務的AI代理Operator。
這對“準安迪-比(bi)爾(er)”的持續迭代，不僅推動了AI技(ji)術的進(jin)一步成熟，也將重塑未來(lai)智能設備的功能和應用場景。
在上(shang)篇文章《2025智(zhi)能(neng)(neng)代理大戰來襲，2026智(zhi)能(neng)(neng)代理+Web3觸發萬物(wu)經濟》中，我曾介紹OpenAI的AI代理Operator不僅(jin)在技術上(shang)具備自(zi)主性(xing)(xing)，在功能(neng)(neng)設計上(shang)也充(chong)分考(kao)慮了多(duo)樣性(xing)(xing)，能(neng)(neng)夠(gou)控制(zhi)計算機(ji)并獨立執行任務。與之呼應(ying)，英偉達則致力于通過硬件平臺為(wei)智(zhi)能(neng)(neng)機(ji)器人賦能(neng)(neng)，二者形成了互補之勢。
在本次邊緣AI開發板的大戰中，中國企業有望占據一席之地。
這一預測既(ji)基于中國(guo)在芯片制(zhi)造領域的快速進步，也得益于中國(guo)企業在當(dang)前“安(an)迪-比爾定律”重構中的積極(ji)參(can)與。
根據12月(yue)(yue)10日中(zhong)國海關(guan)總署發(fa)布的最新數據，2024年(nian)前(qian)11個月(yue)(yue)，中(zhong)國集成電(dian)路出口額(e)突(tu)破(po)萬億元大關(guan)，同(tong)比增(zeng)長20.3%。這一(yi)(yi)里程碑式(shi)的成就，標志著中(zhong)國在芯片研(yan)發(fa)、生產(chan)與制造領(ling)域的能力已經上升到一(yi)(yi)個新的高度。
經歷了6年的貿易戰考驗，中國已于2023年成為全球最大的芯片生產國，為中國企業參與邊緣AI硬件的競爭奠定了堅實基礎。
在(zai)(zai)新一(yi)輪“安迪-比爾定律”的演進中(zhong)(zhong)，中(zhong)(zhong)國企(qi)(qi)(qi)業正積極布局。一(yi)方面，中(zhong)(zhong)國企(qi)(qi)(qi)業可(ke)以充分利用自身在(zai)(zai)芯片(pian)制造領域的優(you)勢，為邊(bian)緣(yuan)AI開發板提供高性價比的核心組件：另一(yi)方面，中(zhong)(zhong)國企(qi)(qi)(qi)業也在(zai)(zai)加大研(yan)發投入，致力于打造性能(neng)卓越、功能(neng)豐(feng)富的邊(bian)緣(yuan)AI開發板產品。
邊緣AI是中國實現“硬件+服務”融合之鑰
除(chu)了參與邊(bian)(bian)緣AI開(kai)發板的爭奪戰(zhan)之外，英偉達新一代邊(bian)(bian)緣AI開(kai)發套(tao)件Jetson Orin Nano Super的發布(bu)，為中國企業在邊(bian)(bian)緣AI領(ling)域的發展(zhan)提供了難(nan)得的機遇。
這款高性價比的(de)產品，不僅讓更(geng)多開發者有(you)機會接觸(chu)和應(ying)用AI技術，也為中國企業在硬(ying)件制造與AI服(fu)務整(zheng)合方面(mian)開辟了新的(de)可能性。
回顧過(guo)去數十年(nian)的國際分工(gong)，中國在(zai)硬件(jian)(jian)制(zhi)造領域積累了顯(xian)著的比較(jiao)優勢。然(ran)而，這種“硬件(jian)(jian)強、軟(ruan)件(jian)(jian)弱(ruo)”的非均衡(heng)發展(zhan)模式(shi)，導致內需不足(zu)、服務業滯后等問題(ti)日益凸顯(xian)。而邊緣AI硬件(jian)(jian)的興起，恰恰為打破這一困(kun)局提供了契機(ji)。
邊緣AI硬件的特點在于，它將強大的AI運算能力與物理設備緊密結合，使得智能化服務能夠在本地實時交付。
這(zhe)意味著，中國企業可以充(chong)分發(fa)揮自身在硬件設計和(he)制造(zao)方(fang)面的(de)優勢，同時通過邊緣AI實現(xian)服務能力(li)的(de)跨越(yue)式(shi)提升，最終實現(xian)制造(zao)業和(he)服務業的(de)均衡發(fa)展。
以服(fu)務機(ji)器(qi)(qi)人為例(li)，它集成了(le)先進的(de)AI算法(fa)和傳感器(qi)(qi)技術，能夠(gou)根(gen)據用(yong)戶(hu)需(xu)求和環(huan)境狀況提供個性化、智(zhi)能化的(de)交(jiao)互(hu)服(fu)務。毛(mao)茸茸的(de)AI機(ji)器(qi)(qi)寵(chong)物、貼心(xin)的(de)家庭陪(pei)伴機(ji)器(qi)(qi)人、懂人心(xin)的(de)智(zhi)能眼鏡(jing)等，都是(shi)邊緣AI服(fu)務設備(bei)的(de)典型應(ying)用(yong)場景。這些(xie)創新產品的(de)問世(shi)，將極大地豐富人們的(de)生(sheng)活體驗。
中國擁有完善的電子制造業供應鏈和龐大的消費市場，這為邊緣AI硬件的規模化生產和應用提供了得天獨厚的條件。
如(ru)果中國企(qi)業能夠抓住這一(yi)機(ji)遇，積極(ji)布局邊緣AI硬(ying)件領域(yu)，不(bu)斷強化技術研發和產(chan)品創(chuang)新能力，就有望在(zai)全球邊緣AI市場中占據一(yi)席之(zhi)地(di)，并帶動(dong)服(fu)務業的轉型(xing)升(sheng)級(ji)。
不過，要真正實(shi)現“硬件+服務”的(de)協同發展，中國企(qi)業(ye)還需要在(zai)以下(xia)幾個方面(mian)進行深入探索(suo)和實(shi)踐：
加強研發投入。邊緣AI的競爭(zheng)歸根結(jie)底是技術的競爭(zheng)。中(zhong)國企(qi)業要在算法模(mo)型、芯片設計、傳(chuan)感器集(ji)成等方面加(jia)大研發力度，突破(po)關鍵(jian)核心技術，提升產品(pin)的智能(neng)化水平和(he)性能(neng)表現(xian)。
深化產業鏈協同。邊緣AI硬件的(de)研發(fa)和(he)生產涉(she)及(ji)芯片(pian)、算法、傳(chuan)感器、結構(gou)件等(deng)多個環節，需(xu)要(yao)產業(ye)(ye)(ye)鏈(lian)上(shang)下游企業(ye)(ye)(ye)的(de)緊密協作。中國(guo)企業(ye)(ye)(ye)要(yao)充分發(fa)揮產業(ye)(ye)(ye)集群優勢，建立健全(quan)的(de)協同機制，提(ti)升供應鏈(lian)的(de)效率和(he)柔性。
創新商業模式。單純(chun)的硬件(jian)銷售(shou)很(hen)難獲得豐厚利潤，中(zhong)國企業需(xu)(xu)要(yao)探索“硬件(jian)+服務(wu)”的創(chuang)新商業模(mo)式。可(ke)以考(kao)慮通(tong)過(guo)硬件(jian)產品(pin)獲取用(yong)戶和數據，再通(tong)過(guo)軟件(jian)服務(wu)實現商業變現：或者(zhe)針對(dui)特定行業提供端(duan)到端(duan)的整體解決方案，充分挖(wa)掘客戶需(xu)(xu)求。
培育開發者生態。邊(bian)(bian)緣(yuan)AI的(de)應用(yong)(yong)開發(fa)(fa)離(li)不開廣大開發(fa)(fa)者(zhe)的(de)積極參與。中國企業要通過開放平臺(tai)、開發(fa)(fa)工(gong)具(ju)、社區(qu)活動等方式，積極培(pei)育(yu)開發(fa)(fa)者(zhe)生態，激發(fa)(fa)開發(fa)(fa)者(zhe)的(de)創(chuang)造力(li)，共同豐富(fu)邊(bian)(bian)緣(yuan)AI的(de)應用(yong)(yong)場景。
注重隱私保護。邊緣AI的普及應用(yong)將產生大量的用(yong)戶(hu)數據(ju)(ju)，這對(dui)數據(ju)(ju)安(an)全和隱私保(bao)護提出了更高(gao)要求(qiu)。中國企業要嚴格(ge)遵守相關法律法規，加強數據(ju)(ju)全生命(ming)周期管理(li)，增強用(yong)戶(hu)信任。
積極參與標準制定。邊緣(yuan)(yuan)AI尚處(chu)于起步階段，相(xiang)關(guan)標(biao)準和規范亟待建(jian)立。中國企業(ye)要(yao)積極參(can)與國際標(biao)準化組織的工作，爭取(qu)在關(guan)鍵技(ji)術領域掌握更(geng)多話語權，為邊緣(yuan)(yuan)AI產業(ye)的健康(kang)發(fa)展貢(gong)獻力(li)量(liang)。
只有在技術、產品(pin)、服務、生態、安全等多個維度形成差(cha)異化優勢，中國企(qi)業(ye)才能在激烈的邊緣AI競爭中搶(qiang)得先機。
寫在最后
英偉達最(zui)新(xin)發布(bu)的邊緣(yuan)AI開發套件Jetson Orin Nano Super，以其強大的性能和超高的性價比(bi)，重新(xin)定義(yi)了(le)邊緣(yuan)AI的可(ke)能性。
這(zhe)一產品的(de)(de)(de)問世(shi)，不(bu)僅掀起了(le)一場全球范圍(wei)內的(de)(de)(de)邊(bian)緣(yuan)AI開(kai)發板(ban)大(da)戰，也為中國企業在邊(bian)緣(yuan)AI領域(yu)的(de)(de)(de)發展提(ti)(ti)供了(le)契機。中國企業可以充分利用自身在硬件制造領域(yu)的(de)(de)(de)優勢，同時通過邊(bian)緣(yuan)AI實(shi)現服務能(neng)力的(de)(de)(de)跨越(yue)式(shi)提(ti)(ti)升，最終實(shi)現制造業和服務業的(de)(de)(de)均衡發展。
參考資料：
開發(fa)者如何選擇Edge AI開發方案，作(zuo)者：Jack OmniXRI，來源：歐尼克斯實境互動工(gong)作(zuo)室(OmniXRI)The Future is here: NVIDIA’s Pocket-Sized Supercomputer is set to Transform AI，來源(yuan)：Edge Middle EastBenchmarking Edge Computing - Comparing Google, Intel, and NVIDIA accelerator hardware，作者：Alasdair Allan，來源：Medium
