作者：彭(peng)昭(zhao)（智次(ci)方創(chuang)始人(ren)、云和資本聯合創(chuang)始合伙人(ren)）
這是我的(de)第(di)364篇專(zhuan)欄文章。
近期，微型機器學習TinyML領域取得了里程碑式的進展，跨越了一個重要的分水嶺。這一技術的成熟度和發展潛力都將邁上新的臺階。
其中最具代表(biao)性(xing)的事件是3月11日(ri)高通宣布(bu)收購Edge Impulse。
Edge Impulse是TinyML領域的代表性公司，此次收購預計將在數周內完成。在此之前，該公司曾發布了一份題為《邊緣AI終極指南：邊緣智能業(ye)務轉型手冊(ce)》的報(bao)(bao)告，這份(fen)報(bao)(bao)告對(dui)于理(li)解(jie)TinyML的發展趨勢和商業(ye)價值有重要參考意義(yi)。
在我此前的多篇文章中，例如，我曾對TinyML進行過深(shen)入的介紹(shao)和(he)分析。
TinyML作為一種優化機器學習模型的技術，使其能夠在資源受限的設備（如微控制器）上高效運行。盡管這些模型的體積小巧，運算高效，但卻足以勝任語音識別、傳感器數據分析等任務。與運行大型語言模型LLM等AI技術的芯片相比(bi)，TinyML設(she)備的成本更(geng)低，功(gong)耗更(geng)小(xiao)，但性能(neng)表現依然出色(se)。
TinyML的崛起，將極大地推動端側AI和邊緣智能的發展。
當前，人們對生成式AI的認知正在發生微妙的轉變。過去，人們普遍認為模型參數越多，性能就越好；而現在，越來越多的人開始認識到，小模型也能發揮出巨大的潛力。
隨(sui)著AI工具庫變得越(yue)來越(yue)強大，編程方式也(ye)變得越(yue)來越(yue)簡單（例如(ru)使用自然語言），AI技術的使用正(zheng)變得更加平(ping)民(min)化。此外，業界正(zheng)在努(nu)力將推(tui)理過程盡可能地靠近數據源(yuan)，因此邊緣AI正(zheng)受(shou)到越(yue)來越(yue)多(duo)的關注。
鑒于此，本文將深入探討高通收購Edge Impulse的(de)意義，分析值得關注的(de)邊緣AIoT平臺，并提煉《邊緣AI終極指南》中的(de)精華(hua)內容，以期為讀者全面解析TinyML的(de)技術(shu)趨勢和商業前(qian)景。
Edge Impulse并入高通，簡化邊緣AI開發流程
高通公司于3月11日宣布收購邊緣AI技(ji)術公司Edge Impulse。
此次收購將整合Edge Impulse的邊緣AI開發平臺，增強高通在AIoT領域的能力，推動高通在工業自動化、智慧醫療等(deng)領域的智能化(hua)滲(shen)透。
Edge Impulse是(shi)一家成立僅6年的(de)公司，由芬蘭(lan)企業家扎克·謝爾比與(yu)荷蘭(lan)工程師揚(yang)·瓊布姆于2019年共同創立。
兩位創始人在ARM公司從事物聯網系統工作時相識，他們共同發現了一片藍海市場—TinyML微型機器學習。他們意識到，隨著微控制器計算能力的發展，已經能夠直接在板上運行特定領域的人工智能模(mo)型。如果將人工智能從云端轉移(yi)到邊緣，將有(you)無(wu)數的應用場(chang)景受益。
自成立之初，Edge Impulse的使命就是簡化邊緣設備的機器學習開發流程，幫助開發者快速構建和部署嵌入式AI應用，推動智能設備的普及。
Edge Impulse構建(jian)(jian)的AIoT平臺，可以大大縮短為(wei)傳感(gan)器(qi)、微控制器(qi)和攝像機(ji)等(deng)小型(xing)設(she)備創建(jian)(jian)機(ji)器(qi)學習(xi)模型(xing)所需的時間。
Edge Impulse為開(kai)發(fa)人(ren)員提供了一(yi)套完(wan)整的(de)工具，可以自動(dong)收(shou)集(ji)數據、簡化(hua)模型訓練、提供高級優化(hua)功能，并支持一(yi)鍵部署到多種(zhong)類型的(de)硬件(jian)，從MCU微控制器(qi)到CPU中央處(chu)理器(qi)、GPU圖(tu)形處(chu)理器(qi)和NPU神經網絡處(chu)理器(qi)。
目(mu)前，Edge Impulse的平臺已支持超過17萬開發(fa)者，覆蓋(gai)25萬個(ge)機器學習項目(mu)，客戶(hu)包括全球(qiu)頂級芯(xin)片供(gong)應商（如(ru)意法半導體、恩智浦(pu)）和(he)終端企業。
迄今(jin)為(wei)止，Edge Impulse已籌(chou)集了(le)5430萬(wan)美元的資金。2021年(nian)，該公司在B輪融資中獲得了(le)3400萬(wan)美元，估(gu)值達到2.34億(yi)美元。兩年(nian)后，該公司報(bao)告的收入(ru)為(wei)1470萬(wan)美元。
高通收購Edge Impulse可以彌補其在端側和邊緣AI領域的技術短板，并加速向AIoT轉型。
Edge Impulse的平臺能夠與高(gao)通的芯片組和軟(ruan)件架構形成互補，幫助開發(fa)者在(zai)低(di)功耗(hao)設備(bei)上快速部署(shu)AI應用。
據悉，預計本次收購將于數周內完成。收購完成后，高通將能夠為開發者提供更高效的AI開發工具，加速物聯網應用的商(shang)業化進程。在工業、醫療和零(ling)售等(deng)領(ling)域，邊緣AI的普及(ji)將推動智能(neng)化轉型，提升運營(ying)效率和決策能(neng)力。
上圖展示了兩者(zhe)結合后的(de)優勢，Edge Impulse平臺與高通的(de)邊緣AI工作流(liu)程和(he)高通AI Hub、Foundries.io等(deng)工具配合使用(yong)，可以更廣泛(fan)地(di)訪問新模型、測(ce)試環境和(he)部署選項。
在(zai)一篇博文中，Edge Impulse創始(shi)人(ren)謝爾比介紹了并入(ru)高通的意義。
對Edge Impulse用戶而言，這意味著邊緣人工智能將變得更加簡單、易于使用。與高通的(de)合作(zuo)將加速(su)對(dui)功能(neng)強大的(de)Dragonwing處理器的(de)計算機視覺、音(yin)頻、語音(yin)識別和生(sheng)成式人(ren)工智(zhi)能(neng)的(de)支(zhi)(zhi)持(chi)。除了支(zhi)(zhi)持(chi)高通的(de)硬件，Edge Impulse還(huan)將繼續(xu)支(zhi)(zhi)持(chi)來自廣(guang)泛合作(zuo)伙伴(ban)的(de)邊緣硬件，包括(kuo)MCU、CPU、GPU和NPU。用(yong)(yong)戶可以像往常(chang)一樣，使用(yong)(yong)Edge Impulse將模型部署到自己(ji)喜歡(huan)的(de)硬件上(shang)。
對高通而言，Edge Impulse將為其物聯網戰略方針增添重要組成部分。無論經驗(yan)水平如何，用(yong)戶都(dou)可(ke)以從完整(zheng)且直觀的邊緣AI開發工作(zuo)流程中受益。從數據準備和(he)AI實驗(yan)，到在各種邊緣硬(ying)件（包括Dragonwing處(chu)理器）上優化和(he)部署AI模(mo)型，用(yong)戶都(dou)可(ke)以立(li)即開始嘗試(shi)。此外，企業和(he)工業應用(yong)可(ke)以利用(yong)全新Edge Impulse與高(gao)通AI Hub的集成，分析并提升針對高(gao)通硬(ying)件的模(mo)型性能，加(jia)速(su)高(gao)性能物聯(lian)網設備的創新。
TinyML設備：麻雀雖小五臟俱全的開發挑戰
TinyML模型運(yun)行于微控制器芯片，這類芯片常(chang)見于洗衣機、冰(bing)箱(xiang)、汽(qi)車安(an)全氣囊等各種設備中(zhong)。
最初設想的TinyML消耗的電量非常少（不到1毫瓦），因此設備可以使用紐扣電池運行一年或更長時間，并且幾乎可以永遠使用太陽能供電。雖然目前尚未廣泛達到這一閾值，但TinyML設備已經可以使用AA電池運行數周甚至數月。
芯片本身價格低(di)廉，可從(cong)(cong)多家制造商(shang)處購買。因此，大(da)多數(shu)TinyML設備的價格從(cong)(cong)幾美(mei)元到幾十(shi)美(mei)元不等，具體取決于其功能的強大(da)程度。
這(zhe)些設備(bei)通常(chang)不僅包括(kuo)芯片，還包括(kuo)攝像(xiang)頭和(he)傳感器(qi)，用(yong)于檢測圖像(xiang)和(he)聲音，以供AI模型進行分析。目前工程師們使用(yong)的TinyML軟件、硬件和(he)數(shu)據(ju)集都是開源的，這(zhe)意味著它們可以被自由訪問和(he)修改。
盡管TinyML設備看似簡單，但開發起來卻充滿挑戰。
首先，它需要多種技能的專業知識，包括硬件、軟件和機器學習，很少有人能夠全面掌握，其次，結合所有這些技能也需要時間。因此，能夠簡化開發、有效部署的端側和邊緣AI開發平臺成為了必選項。
Edge Impulse提(ti)供了《邊緣(yuan)(yuan)AI終極指(zhi)南：邊緣(yuan)(yuan)AI業務轉型手冊》，其中包含了關于邊緣(yuan)(yuan)AI如(ru)何改變業務的關鍵要點，以(yi)及如(ru)何利(li)用這(zhe)項突破性技術的實用見解。
全(quan)球邊緣人工(gong)智能的(de)增長和預測顯示，預計到2033年(nian)，全(quan)球邊緣AI市場規模將從2023年(nian)的(de)190億(yi)美元(yuan)增至約1630億(yi)美元(yuan)。
為邊(bian)(bian)(bian)緣(yuan)AI提(ti)供(gong)支持(chi)的(de)軟件和(he)(he)硬件市場也在(zai)不斷增(zeng)長。邊(bian)(bian)(bian)緣(yuan)AI軟件解決方案正在(zai)成為現(xian)代(dai)數字基礎設(she)施不可或缺的(de)一部分。這(zhe)個(ge)不斷增(zeng)長的(de)市場涵蓋(gai)了(le)各種工具(ju)和(he)(he)平臺，旨在(zai)實現(xian)從物聯(lian)網傳感(gan)器到工業設(she)備等邊(bian)(bian)(bian)緣(yuan)硬件的(de)AI推理和(he)(he)訓練。邊(bian)(bian)(bian)緣(yuan)AI軟件的(de)全球市場規模(mo)預計將從2023年的(de)11億美元增(zeng)長到2028年的(de)41億美元。
在(zai)硬件(jian)方面，根據Markets and Markets的數據，到2029年，全球邊緣(yuan)AI硬件(jian)市(shi)場價(jia)值預計將達(da)到547億美元(yuan)。
邊緣設備(bei)和(he)處(chu)理(li)器構成了邊緣AI實現的(de)支柱，支持在各種應用中進行本地(di)處(chu)理(li)和(he)決策(ce)。這(zhe)些設備(bei)包(bao)括專用的(de)AI加速器和(he)神(shen)經處(chu)理(li)單元NPU，以及(ji)針對(dui)邊緣計(ji)算優(you)化的(de)更通(tong)用的(de)片上系統SoC。
《邊緣AI終極指南》還提供了如何評估邊緣AI的準備情況、如何制定邊緣AI的發展路線圖，以及如何測算投資回報率等內容，具有參考價值。
邊(bian)緣(yuan)(yuan)(yuan)AI成(cheng)熟度評估清(qing)單可以(yi)幫助組織評估是否已為成(cheng)功的邊(bian)緣(yuan)(yuan)(yuan)AI之旅做好準備。此(ci)清(qing)單將指導評估實施和擴(kuo)展(zhan)邊(bian)緣(yuan)(yuan)(yuan)AI計劃(hua)所必需的關鍵要素(su)。
邊(bian)緣AI路線圖旨(zhi)在指導完成規(gui)劃、實施(shi)和優化邊(bian)緣AI戰略的(de)關鍵步驟(zou)。通過探索有效的(de)邊(bian)緣AI路線圖的(de)關鍵組成部分，組織可以更(geng)好地構(gou)建未來(lai)。
測算ROI也是(shi)關鍵步驟之一(yi)，因(yin)為許多(duo)組織將(jiang)面臨邊緣AI戰(zhan)略(lve)的(de)(de)關鍵決策：自建還是(shi)購(gou)買。在邊緣AI的(de)(de)早期(qi)，DIY方法(fa)通常是(shi)唯(wei)一(yi)的(de)(de)選(xuan)擇，需要公司組裝復雜的(de)(de)組件、工具(ju)和資源(yuan)。然而DIY也是(shi)一(yi)種具(ju)有挑戰(zhan)性的(de)(de)方法(fa)，需要廣泛領域的(de)(de)專業知識才能實現。
感興趣的朋友可以(yi)點擊鏈接下載：
//pages.edgeimpulse.com/the-ultimate-guide-to-edge-ai
邊緣AIoT平臺巡禮：高通、英偉達、谷歌等巨頭參與角逐
隨著邊緣(yuan)AI的不斷發展，支持AIoT的新型平臺也(ye)應運而生。
任何旨在(zai)支持AIoT連接的(de)平臺都(dou)必(bi)須有效(xiao)地結合人工智能和(he)物聯網平臺領域(yu)的(de)功(gong)能。這(zhe)頗具挑戰性，因為(wei)人工智能的(de)特(te)點是(shi)軟件的(de)快(kuai)速迭(die)代和(he)更(geng)新，而(er)物聯網的(de)特(te)點是(shi)設備的(de)資源受限、分(fen)散部署、而(er)且需要(yao)在(zai)無人干預(yu)的(de)情況下運行多(duo)年(nian)。
在一(yi)份新報(bao)告《AIoT需(xu)要什么樣的平臺(tai)(tai)？》中，Transforma Insights確定(ding)了(le)支持(chi)AIoT所需(xu)的軟件平臺(tai)(tai)必備(bei)功(gong)能。
雖然許多功能已經存在，然而，現有的物聯網平臺通常尚未針對支持分布式人工智能進行優化，而人工智能平臺通常沒有考慮到物聯網環境的所有約束。目前能夠兼顧物聯網和人工智能的AIoT平臺仍屬少數。
通過(guo)收購(gou)Edge Impulse，高通將成為邊(bian)緣(yuan)AIoT平臺的有(you)力參與者之一。
其他(ta)知(zhi)名的邊緣(yuan)AIoT開發(fa)平臺(tai)還包括(kuo)：
英偉達Jetson
Jetson是一個(ge)強(qiang)大的(de)(de)(de)邊緣AIoT應用平臺，提供(gong)(gong)一系列(lie)針對AI和深度學習任務量身定制的(de)(de)(de)硬(ying)件和軟件解決方案。它以緊(jin)湊的(de)(de)(de)外形提供(gong)(gong)高性能(neng)計算能(neng)力，使其成為機器人、智能(neng)城市和醫療保健等(deng)應用的(de)(de)(de)選擇。
谷歌Coral
Coral致力(li)于(yu)將AI處理擴展到邊緣設備。為此，它提供了Coral Dev Board和USB Accelerator等模塊，以(yi)及用于(yu)AI推理的TPU。谷(gu)歌(ge)Coral與TensorFlow Lite配合使(shi)用，使(shi)開發人員能(neng)夠更輕松地部(bu)署模型(xing)。
AWS IoT Greengrass
AWS IoT Greengrass是一(yi)種將(jiang)AWS云服務擴展到邊緣設備的技術，使它(ta)(ta)們能夠(gou)在本地對其(qi)生成的數(shu)據采(cai)取行(xing)動。它(ta)(ta)支持機器學習推(tui)理(li)、數(shu)據處理(li)和(he)設備之間的安全通(tong)信。
Microsoft Azure IoT Edge
Microsoft Azure IoT Edge是一項完(wan)全托管的(de)服(fu)務，通過在IoT設備上直接部署(shu)和運(yun)行(xing)AI、Azure服(fu)務和自定義(yi)邏輯，在本地提(ti)供云智能(neng)。它采用(yong)了(le)一系(xi)列(lie)開發應用(yong)程序，并且還與Azure機器學習兼容以進(jin)行(xing)模型部署(shu)。
英特爾OpenVINO
英特(te)爾OpenVINO（開放式視覺(jue)推理和(he)神(shen)經網絡優(you)化(hua)）工具(ju)包通過(guo)其(qi)設計(ji)加速了英特(te)爾硬件上(shang)的AI工作負載。它專(zhuan)注于(yu)深度(du)學習模型，并能夠分發到各種(zhong)邊緣設備。OpenVINO支(zhi)持(chi)計(ji)算機視覺(jue)和(he)自然語言(yan)處理應用程序(xu)，因此，它也可以被視為醫療保健(jian)、零售和(he)工業自動化(hua)等行(xing)業進(jin)行(xing)AI開發的多功能工具(ju)。
IBM Edge應用程序管理器
IBM邊緣應用程序管(guan)理(li)(li)器(qi)是用于安裝和(he)運行基(ji)于AI的(de)邊緣設備應用程序的(de)全(quan)套(tao)解決方案。此工具是自我管(guan)理(li)(li)的(de)，用戶(hu)可(ke)以(yi)在(zai)出現新版本或更新時進行部署。IBM的(de)Edge Cluster Manager平(ping)臺提供了各種用例場景，例如工業自動化(hua)、能源管(guan)理(li)(li)和(he)遠程生產(chan)力工具。
索尼Spresense
Spresense是(shi)一款專為邊緣計算應用而設計的小型開發板。它由多核(he)微控(kong)制器構建，支持多個AI框(kuang)架，因此非常(chang)適合音頻處理(li)、計算機視(shi)覺(jue)操(cao)作和(he)其他AI用途。
寫在最后
隨著邊緣AI的迅速發展，TinyML正迎來一個(ge)全(quan)新的時代。
高通(tong)對Edge Impulse的收購，不僅(jin)彰(zhang)顯了行業巨頭對TinyML和AIoT的高度重視，更預示著(zhu)邊緣AIoT平臺競爭的加劇。未來，隨著(zhu)5G、IoT等技術的進一步普及，邊緣AI將在更多(duo)領域(yu)大放(fang)異彩(cai)。
最后，值得一(yi)提(ti)的(de)是隨(sui)著TinyML已成為許多嵌入式(shi)邊緣(yuan)用例的(de)常態，TinyML基(ji)金會進行了品牌重(zhong)塑。該基(ji)金會已更(geng)名為Edge AI基(ji)金會，以便更(geng)好地與(yu)生態系統合作伙(huo)伴一(yi)起，實踐在邊緣(yuan)提(ti)供可擴展、低功耗AI的(de)承諾(nuo)。
參考資(zi)料：
1.Our Next Chapter: Edge Impulse is Joining Forces with Qualcomm Technologies，作者：Zach Shelby，來源：Edge Impulse2.The Ultimate Guide to Edge AI，來源(yuan)：Edge Impulse
