作(zuo)者(zhe)：彭昭（智次方創始人、云(yun)和(he)資本聯合(he)(he)創始合(he)(he)伙人）
這是我的(de)第(di)364篇(pian)專欄文章。
近期，微型機器學習TinyML領域取得了里程碑式的進展，跨越了一個重要的分水嶺。這一技術的成熟度和發展潛力都將邁上新的臺階。
其(qi)中最具代表性的事件是3月11日高(gao)通(tong)宣布收購Edge Impulse。
Edge Impulse是TinyML領域的代表性公司，此次收購預計將在數周內完成。在此之前，該公司曾發布了一份題為《邊緣AI終極指南：邊緣智能業務轉型手(shou)冊》的報告(gao)，這份報告(gao)對于理解TinyML的發展(zhan)趨勢(shi)和商業價值有重(zhong)要(yao)參(can)考意義(yi)。
在我此(ci)前的(de)多(duo)篇文章(zhang)中，例如，我曾(ceng)對(dui)TinyML進行過(guo)深入的(de)介(jie)紹和分析。
TinyML作為一種優化機器學習模型的技術，使其能夠在資源受限的設備（如微控制器）上高效運行。盡管這些模型的體積小巧，運算高效，但卻足以勝任語音識別、傳感器數據分析等任務。與運行大型語言模型LLM等AI技術的芯片相比(bi)，TinyML設(she)備的成本(ben)更(geng)低，功耗(hao)更(geng)小(xiao)，但(dan)性(xing)能表現依然出色。
TinyML的崛起，將極大地推動端側AI和邊緣智能的發展。
當前，人們對生成式AI的認知正在發生微妙的轉變。過去，人們普遍認為模型參數越多，性能就越好；而現在，越來越多的人開始認識到，小模型也能發揮出巨大的潛力。
隨(sui)著AI工具庫變得越來(lai)越強大，編程方式也變得越來(lai)越簡單（例如(ru)使(shi)用(yong)自然語言），AI技術的使(shi)用(yong)正變得更加平民化(hua)。此外，業(ye)界(jie)正在(zai)努力將推理過程盡可能地靠近數(shu)據(ju)源(yuan)，因此邊緣AI正受到越來(lai)越多(duo)的關注。
鑒于(yu)此，本文將深(shen)入探討(tao)高通(tong)收購(gou)Edge Impulse的(de)意(yi)義，分析值得關注的(de)邊緣AIoT平臺，并提煉《邊緣AI終(zhong)極指(zhi)南》中(zhong)的(de)精華內容(rong)，以期為讀者全面解析TinyML的(de)技術趨(qu)勢和(he)商(shang)業前景。
Edge Impulse并入高通，簡化邊緣AI開發流程
高(gao)通(tong)公司于3月11日(ri)宣(xuan)布收(shou)購邊(bian)緣AI技術(shu)公司Edge Impulse。
此次收購將整合Edge Impulse的邊緣AI開發平臺，增強高通在AIoT領域的能力，推動高通在工業自動化、智慧醫療等領域的智(zhi)能化滲透。
Edge Impulse是一(yi)家(jia)成立(li)僅6年(nian)的公司，由芬蘭企(qi)業家(jia)扎克(ke)·謝爾比與荷(he)蘭工程師揚·瓊布姆于(yu)2019年(nian)共同創立(li)。
兩位創始人在ARM公司從事物聯網系統工作時相識，他們共同發現了一片藍海市場—TinyML微型機器學習。他們意識到，隨著微控制器計算能力的發展，已經能夠直接在板上運行特定領域的人工智能模型。如果將(jiang)人工智能從(cong)云端轉移到(dao)邊緣，將(jiang)有無數(shu)的應(ying)用場景受益。
自成立之初，Edge Impulse的使命就是簡化邊緣設備的機器學習開發流程，幫助開發者快速構建和部署嵌入式AI應用，推動智能設備的普及。
Edge Impulse構建的(de)AIoT平臺(tai)，可以大(da)大(da)縮(suo)短為傳感器(qi)、微控制器(qi)和攝像(xiang)機等(deng)小型(xing)設備創(chuang)建機器(qi)學習模型(xing)所需的(de)時間。
Edge Impulse為開發人(ren)員提供(gong)了(le)一(yi)套完(wan)整(zheng)的工具(ju)，可以自動(dong)收集數據、簡化模型訓練、提供(gong)高級優化功能，并支持一(yi)鍵部(bu)署到多(duo)種類型的硬件，從MCU微控制器(qi)到CPU中央處理(li)器(qi)、GPU圖形(xing)處理(li)器(qi)和(he)NPU神經網絡處理(li)器(qi)。
目前，Edge Impulse的平(ping)臺已支持超過17萬開發者(zhe)，覆蓋(gai)25萬個機器學習項目，客戶(hu)包括全球頂級芯(xin)片供(gong)應商（如意法(fa)半導體、恩智浦）和終端(duan)企業。
迄今為止(zhi)，Edge Impulse已籌集了(le)5430萬美元(yuan)的資金。2021年，該(gai)公(gong)司在B輪融資中獲得了(le)3400萬美元(yuan)，估值達到(dao)2.34億美元(yuan)。兩(liang)年后，該(gai)公(gong)司報(bao)告的收入為1470萬美元(yuan)。
高通收購Edge Impulse可以彌補其在端側和邊緣AI領域的技術短板，并加速向AIoT轉型。
Edge Impulse的平臺能(neng)夠與高通的芯片組和軟件架構形成(cheng)互補(bu)，幫助開發(fa)者在低功耗(hao)設備(bei)上快速部署AI應用。
據悉，預計本次收購將于數周內完成。收購完成后，高通將能夠為開發者提供更高效的AI開發工具，加速物聯網應用的商業化進(jin)程。在工業、醫療和(he)零售等(deng)領域，邊緣AI的普及將推動智能(neng)化轉型(xing)，提(ti)升運(yun)營效率和(he)決(jue)策能(neng)力。
上圖展示了兩者結合后的優勢(shi)，Edge Impulse平(ping)臺與高(gao)通的邊(bian)緣AI工作流程和高(gao)通AI Hub、Foundries.io等工具配合使用，可以更廣泛地訪問新模型、測試環境和部署選(xuan)項。
在(zai)一篇博文中，Edge Impulse創始人謝爾比介紹了并入高通(tong)的意義。
對Edge Impulse用戶而言，這意味著邊緣人工智能將變得更加簡單、易于使用。與高通的合(he)作將(jiang)(jiang)加速對功能強(qiang)大的Dragonwing處理器的計算(suan)機視覺、音頻、語音識別(bie)和生(sheng)成式(shi)人(ren)工智能的支(zhi)持。除(chu)了支(zhi)持高通的硬件(jian)，Edge Impulse還將(jiang)(jiang)繼續支(zhi)持來自(zi)廣泛合(he)作伙伴的邊緣硬件(jian)，包括MCU、CPU、GPU和NPU。用(yong)戶(hu)可(ke)以(yi)像往常一樣，使用(yong)Edge Impulse將(jiang)(jiang)模(mo)型部署到自(zi)己喜歡的硬件(jian)上。
對高通而言，Edge Impulse將為其物聯網戰略方針增添重要組成部分。無論經(jing)驗水(shui)平如何，用戶都可(ke)以(yi)從完(wan)整且直觀的邊緣AI開發工作流(liu)程中受益。從數據準備和(he)AI實驗，到在各(ge)種邊緣硬(ying)件（包括Dragonwing處理(li)器）上優(you)化和(he)部署AI模型，用戶都可(ke)以(yi)立(li)即開始(shi)嘗試。此外，企(qi)業和(he)工業應用可(ke)以(yi)利用全新Edge Impulse與高通(tong)AI Hub的集(ji)成(cheng)，分(fen)析并提升(sheng)針對高通(tong)硬(ying)件的模型性(xing)能，加(jia)速高性(xing)能物聯(lian)網設備的創新。
TinyML設備：麻雀雖小五臟俱全的開發挑戰
TinyML模(mo)型運行于微控制(zhi)器(qi)芯(xin)片，這(zhe)類芯(xin)片常見(jian)于洗衣(yi)機、冰箱(xiang)、汽車安全氣囊等各種設備中。
最初設想的TinyML消耗的電量非常少（不到1毫瓦），因此設備可以使用紐扣電池運行一年或更長時間，并且幾乎可以永遠使用太陽能供電。雖然目前尚未廣泛達到這一閾值，但TinyML設備已經可以使用AA電池運行數周甚至數月。
芯片(pian)本身(shen)價(jia)格低廉(lian)，可從(cong)多家制造商(shang)處(chu)購買。因此，大多數TinyML設備的價(jia)格從(cong)幾(ji)美元到(dao)幾(ji)十(shi)美元不等，具體取決(jue)于其功能的強大程度(du)。
這(zhe)些設備通常不僅包(bao)括(kuo)芯片，還(huan)包(bao)括(kuo)攝(she)像(xiang)頭和傳感(gan)器，用于(yu)檢測圖像(xiang)和聲音，以供AI模型進(jin)行分析。目前工程師們使用的TinyML軟件、硬件和數(shu)據集(ji)都(dou)是開源的，這(zhe)意味著它們可以被自(zi)由訪問和修改。
盡管TinyML設備看似簡單，但開發起來卻充滿挑戰。
首先，它需要多種技能的專業知識，包括硬件、軟件和機器學習，很少有人能夠全面掌握，其次，結合所有這些技能也需要時間。因此，能夠簡化開發、有效部署的端側和邊緣AI開發平臺成為了必選項。
Edge Impulse提供了《邊(bian)(bian)緣(yuan)(yuan)AI終極指南：邊(bian)(bian)緣(yuan)(yuan)AI業(ye)(ye)務轉型手冊》，其中包含了關(guan)于邊(bian)(bian)緣(yuan)(yuan)AI如(ru)(ru)何(he)(he)改變業(ye)(ye)務的(de)關(guan)鍵要點(dian)，以及如(ru)(ru)何(he)(he)利用這項突(tu)破性技術的(de)實用見解(jie)。
全球邊緣(yuan)人(ren)工智能的增(zeng)長(chang)和預測顯示，預計到2033年，全球邊緣(yuan)AI市場規模將(jiang)從2023年的190億美(mei)元增(zeng)至(zhi)約1630億美(mei)元。
為邊(bian)緣(yuan)AI提(ti)供支持的(de)(de)軟(ruan)件和(he)硬件市場(chang)(chang)也(ye)在(zai)不斷增長(chang)。邊(bian)緣(yuan)AI軟(ruan)件解(jie)決(jue)方案正在(zai)成為現代(dai)數字基礎設(she)施(shi)不可(ke)或(huo)缺的(de)(de)一部分。這個(ge)不斷增長(chang)的(de)(de)市場(chang)(chang)涵蓋了各種工具和(he)平臺，旨在(zai)實現從物聯網(wang)傳感(gan)器到工業(ye)設(she)備(bei)等邊(bian)緣(yuan)硬件的(de)(de)AI推(tui)理和(he)訓練。邊(bian)緣(yuan)AI軟(ruan)件的(de)(de)全球(qiu)市場(chang)(chang)規模預計將從2023年的(de)(de)11億美元增長(chang)到2028年的(de)(de)41億美元。
在硬件方面，根據(ju)Markets and Markets的(de)數據(ju)，到(dao)(dao)2029年，全(quan)球(qiu)邊緣AI硬件市(shi)場價(jia)值(zhi)預計將達到(dao)(dao)547億美(mei)元。
邊(bian)(bian)緣(yuan)設(she)備(bei)(bei)和(he)處(chu)(chu)理(li)器構成了邊(bian)(bian)緣(yuan)AI實現的(de)支柱，支持在各種(zhong)應用(yong)中進(jin)行本地處(chu)(chu)理(li)和(he)決策。這些設(she)備(bei)(bei)包括專(zhuan)用(yong)的(de)AI加速器和(he)神經處(chu)(chu)理(li)單元NPU，以(yi)及針對(dui)邊(bian)(bian)緣(yuan)計算優(you)化的(de)更通用(yong)的(de)片上系(xi)統SoC。
《邊緣AI終極指南》還提供了如何評估邊緣AI的準備情況、如何制定邊緣AI的發展路線圖，以及如何測算投資回報率等內容，具有參考價值。
邊緣(yuan)AI成熟(shu)度評估清單(dan)可以幫助(zhu)組織評估是否已為成功的邊緣(yuan)AI之旅做好準備。此清單(dan)將指導評估實施和(he)擴展邊緣(yuan)AI計劃所必需的關鍵要素。
邊(bian)緣AI路線圖(tu)旨在指(zhi)導完成規劃、實施和(he)優化(hua)邊(bian)緣AI戰略的(de)關鍵步(bu)驟。通過探索有(you)效(xiao)的(de)邊(bian)緣AI路線圖(tu)的(de)關鍵組成部分，組織可以更好地構建未來。
測算(suan)ROI也(ye)是關鍵(jian)步(bu)驟之一，因為許多組(zu)織將(jiang)面臨邊緣(yuan)(yuan)AI戰略的關鍵(jian)決策：自建(jian)還是購買。在邊緣(yuan)(yuan)AI的早期，DIY方(fang)法通常是唯一的選擇，需要公司(si)組(zu)裝復(fu)雜的組(zu)件、工具和(he)資源。然(ran)而DIY也(ye)是一種(zhong)具有挑戰性的方(fang)法，需要廣(guang)泛領域的專業知識才能實現。
感興趣的朋友可以點擊(ji)鏈接下載：
//pages.edgeimpulse.com/the-ultimate-guide-to-edge-ai
邊緣AIoT平臺巡禮：高通、英偉達、谷歌等巨頭參與角逐
隨著邊緣AI的不斷發展，支持(chi)AIoT的新型平臺也應運而(er)生。
任何旨(zhi)在支持AIoT連接的平臺都必須有(you)效地結(jie)合人(ren)工(gong)智能(neng)和物(wu)(wu)聯網(wang)平臺領域的功能(neng)。這頗具挑戰(zhan)性，因為人(ren)工(gong)智能(neng)的特點(dian)是軟件的快速(su)迭代和更新(xin)，而(er)物(wu)(wu)聯網(wang)的特點(dian)是設(she)備的資源受(shou)限、分散部(bu)署、而(er)且需要(yao)在無人(ren)干(gan)預(yu)的情況(kuang)下運行多年。
在一份(fen)新報告《AIoT需(xu)要(yao)什么(me)樣的平(ping)臺？》中，Transforma Insights確(que)定了支持(chi)AIoT所需(xu)的軟(ruan)件平(ping)臺必備功能。
雖然許多功能已經存在，然而，現有的物聯網平臺通常尚未針對支持分布式人工智能進行優化，而人工智能平臺通常沒有考慮到物聯網環境的所有約束。目前能夠兼顧物聯網和人工智能的AIoT平臺仍屬少數。
通過收購(gou)Edge Impulse，高(gao)通將成為邊緣(yuan)AIoT平臺的有力參與者之一。
其他知名的邊緣AIoT開發平臺還(huan)包括(kuo)：
英偉達Jetson
Jetson是(shi)一個(ge)強大的(de)(de)邊緣(yuan)AIoT應用(yong)平臺(tai)，提供(gong)一系(xi)列(lie)針對AI和(he)深度學習任務量身定制的(de)(de)硬件和(he)軟件解決(jue)方案。它以緊湊的(de)(de)外形提供(gong)高(gao)性能計算(suan)能力，使其成為機器(qi)人、智能城市(shi)和(he)醫療保健等應用(yong)的(de)(de)選(xuan)擇。
谷歌Coral
Coral致力于將AI處理(li)(li)擴展(zhan)到邊緣(yuan)設備(bei)。為此，它提供(gong)了Coral Dev Board和USB Accelerator等模塊，以及用于AI推理(li)(li)的TPU。谷歌Coral與(yu)TensorFlow Lite配合使(shi)(shi)用，使(shi)(shi)開發人員能夠更(geng)輕松地部署模型。
AWS IoT Greengrass
AWS IoT Greengrass是(shi)一種將AWS云服(fu)務(wu)擴展到邊緣設備的(de)(de)技術(shu)，使它們能(neng)夠在本地對其生成(cheng)的(de)(de)數據采取(qu)行動(dong)。它支持機器學習推理(li)、數據處理(li)和設備之間的(de)(de)安全(quan)通信。
Microsoft Azure IoT Edge
Microsoft Azure IoT Edge是一項完全托管的服務，通過在(zai)IoT設備上直(zhi)接部署和運行AI、Azure服務和自定義邏輯，在(zai)本地提供云智能(neng)。它采用(yong)了一系列開(kai)發應用(yong)程序，并且(qie)還與(yu)Azure機器學習兼容以進行模(mo)型部署。
英特爾OpenVINO
英(ying)特爾(er)OpenVINO（開放式視(shi)覺推理(li)(li)和(he)神經網絡優化）工(gong)具(ju)包通過(guo)其設計加速了英(ying)特爾(er)硬件上的(de)AI工(gong)作負載。它專注(zhu)于深度(du)學習模(mo)型，并能夠分發(fa)到(dao)各種邊(bian)緣(yuan)設備(bei)。OpenVINO支持計算(suan)機視(shi)覺和(he)自然(ran)語言處(chu)理(li)(li)應用(yong)程序(xu)，因此，它也可以被視(shi)為醫療(liao)保健(jian)、零售和(he)工(gong)業自動化等行業進行AI開發(fa)的(de)多功(gong)能工(gong)具(ju)。
IBM Edge應用程序管理器
IBM邊緣應用(yong)(yong)程(cheng)(cheng)序管理器(qi)是用(yong)(yong)于安裝(zhuang)和運行基(ji)于AI的(de)邊緣設備應用(yong)(yong)程(cheng)(cheng)序的(de)全套(tao)解決方案。此工具(ju)是自(zi)我管理的(de)，用(yong)(yong)戶可以在(zai)出現新(xin)版本或更新(xin)時進行部署(shu)。IBM的(de)Edge Cluster Manager平(ping)臺提(ti)供了(le)各種(zhong)用(yong)(yong)例場(chang)景，例如工業(ye)自(zi)動化、能源管理和遠程(cheng)(cheng)生(sheng)產力工具(ju)。
索尼Spresense
Spresense是(shi)一款專為(wei)邊緣計(ji)算應用(yong)而設(she)計(ji)的小型開發板。它由多(duo)核微控(kong)制器構建，支(zhi)持多(duo)個AI框架，因此(ci)非常適合音(yin)頻處(chu)理(li)、計(ji)算機(ji)視覺操(cao)作和其他AI用(yong)途。
寫在最后
隨著邊(bian)緣AI的迅速發展，TinyML正迎來(lai)一(yi)個全新(xin)的時代。
高(gao)通對Edge Impulse的(de)(de)收購(gou)，不僅彰顯了行業巨頭對TinyML和AIoT的(de)(de)高(gao)度重(zhong)視，更(geng)預示著(zhu)(zhu)邊緣AIoT平臺競爭的(de)(de)加(jia)劇。未來(lai)，隨著(zhu)(zhu)5G、IoT等技術的(de)(de)進一步普及，邊緣AI將(jiang)在(zai)更(geng)多領(ling)域大(da)放異彩。
最后，值(zhi)得一(yi)(yi)提的(de)是隨著TinyML已(yi)成為(wei)許多嵌(qian)入式邊(bian)緣用例的(de)常態，TinyML基金(jin)會(hui)進行(xing)了品(pin)牌重塑。該(gai)基金(jin)會(hui)已(yi)更(geng)名為(wei)Edge AI基金(jin)會(hui)，以便(bian)更(geng)好(hao)地與生態系統合作(zuo)伙伴一(yi)(yi)起，實踐在邊(bian)緣提供可擴(kuo)展(zhan)、低功耗AI的(de)承諾。
參考資料：
1.Our Next Chapter: Edge Impulse is Joining Forces with Qualcomm Technologies，作者：Zach Shelby，來源：Edge Impulse2.The Ultimate Guide to Edge AI，來源：Edge Impulse
