分布最廣的物聯網設備往(wang)往(wang)體積很小(xiao)、電量有(you)(you)限(xian)。它們(men)被作(zuo)為終端(duan)硬件,通過嵌入式傳感器采集(ji)各(ge)種數據;計算能力有(you)(you)限(xian),對功(gong)耗(hao)極為敏感。這(zhe)類設備也能實現機器學(xue)習嗎?
一個趨勢是,人工智能AI正在加快速(su)度從(cong)“云端”走向“邊緣”,進入到(dao)越來越小的物(wu)聯網(wang)設備中。
在終端和邊緣側的微處理器上,實現的機器學習過程,被稱為微型機器學習,即TinyML。更準確的說,TinyML是指工程師們在mW功率范圍以下的設備上,實現機器學習的方法、工具和技術。
一(yi)批企業正在(zai)利用TinyML相關的(de)技(ji)術與產品,探索如何在(zai)這(zhe)些無處不在(zai)的(de)小型設備(bei)上,更好的(de)搭載機(ji)器(qi)學習,以便提高設備(bei)的(de)分析能力和運行效率(lv)。
TinyML是不同技術領域和推動因素的交集,它位于物聯網設備、機器學習和邊緣計算之間的結合部,并因為多種驅動力的(de)綜合(he)作用,進展很快。
在(zai)剛(gang)剛(gang)過去的(de)2月中旬,TinyML 2020峰會在(zai)硅谷舉(ju)行。英偉達、ARM、高通、谷歌(ge)、微軟(ruan)、三星(xing)等公司紛(fen)紛(fen)展(zhan)示(shi)了(le)微型機器學習的(de)最新成果(guo)。
這是TinyML峰(feng)會的(de)(de)第二屆(jie)。TinyML 2019峰(feng)會共(gong)吸(xi)引了來自90多家企業的(de)(de)數百名(ming)工程(cheng)師參與,而本屆(jie)峰(feng)會的(de)(de)盛況更是空前,并且得出了很多重要結論:
對于很多應用場景,TinyML技術(shu)和硬件已經(jing)進化到實(shi)用性較強的階(jie)段;
無論(lun)是算法、網絡,還是低于100KB的ML模(mo)型(xing),都取得了重大(da)突破;
視覺和(he)音頻領域的低功(gong)耗(hao)需求快速增長。
TinyML峰會的主辦方,是在2019年7月剛剛成立的TinyML基金會,成員不僅包含各大(da)知名(ming)企業(ye),還包含GreeWaves、Eta Compute、Esperanto、Xnor、Picovoice等優秀的初創公司。
技術的(de)(de)進步和(he)生態的(de)(de)發展(zhan),為TinyML的(de)(de)發展(zhan)賦(fu)予了巨大的(de)(de)動(dong)能(neng)。目前,TinyML的(de)(de)影響力(li)正在持續發酵,2020年勢(shi)必將有大批產品和(he)解(jie)決方案問世,是一個值得重(zhong)點把(ba)握和(he)關注的(de)(de)領(ling)域。因此本文(wen)將為你(ni)匯總(zong)呈現TinyML的(de)(de)全景:
什么是TinyML?
什么是TinyML即服務?
TinyML為何重要?
TinyML的市場規模預測
TinyML的最新產品有哪些?
TinyML有哪些應用實踐?
TinyML的相關組織
機器(qi)學習(ML)正(zheng)在變(bian)得越來(lai)越小。
正如文初所述,TinyML是機器學習在微控制器上的應用,是超低功耗邊緣側人工智能。
無論何時何地(di),數(shu)(shu)(shu)據(ju)都需要(yao)即時可(ke)用(yong),這一趨勢(shi)越來越明顯(xian)。全球各(ge)行(xing)各(ge)業(ye)都在經(jing)歷由這種(zhong)需求推動(dong)的(de)“數(shu)(shu)(shu)字化轉型(xing)”。根據(ju)IDC的(de)分析,到2025年,全球創建(jian)的(de)數(shu)(shu)(shu)據(ju)中,超(chao)過四分之一的(de)數(shu)(shu)(shu)據(ju)在本質上都是實時數(shu)(shu)(shu)據(ju),而物聯網(wang)實時數(shu)(shu)(shu)據(ju)將(jiang)占這部(bu)分數(shu)(shu)(shu)據(ju)的(de)95%以上。
大量涌(yong)現(xian)的(de)(de)(de)數(shu)據(ju)催生出(chu)了一系(xi)列全(quan)新的(de)(de)(de)技(ji)術,機器學習、自然(ran)語言處(chu)理和人工(gong)智能,它們(men)將數(shu)據(ju)分(fen)析(xi)從(cong)不常(chang)見的(de)(de)(de)、追溯式的(de)(de)(de)實踐(jian),轉(zhuan)變成為戰(zhan)略決策和行動的(de)(de)(de)前(qian)攝式推(tui)動因素。這些(xie)技(ji)術可以大大提高各種行業、環境(jing)和應用數(shu)據(ju)分(fen)析(xi)的(de)(de)(de)頻率、靈活性和即時(shi)性。同樣根據(ju)IDC的(de)(de)(de)預測,到 2025 年(nian),屬于數(shu)據(ju)分(fen)析(xi)的(de)(de)(de)全(quan)球數(shu)據(ju)總量將增(zeng)長至原來的(de)(de)(de)50倍,達(da)到 5.2ZB;而機器學習所“觸及”的(de)(de)(de)分(fen)析(xi)數(shu)據(ju)總量將增(zeng)長至原來的(de)(de)(de)100倍,達(da)到1.4ZB。
目前存在的機器學習可以劃分為3種形態,云端ML、邊緣ML和TinyML。TinyML正是針對占比超過95%以上的物聯網實時數據處理場景。
因此,目前針對不(bu)同(tong)(tong)類(lei)型的(de)計算平臺,在(zai)不(bu)同(tong)(tong)時間(jian)創建和使用(yong)的(de)數據量,機器學習(xi)被(bei)較(jiao)為(wei)清晰的(de)劃分為(wei)3種(zhong)類(lei)型,發(fa)揮著各自差(cha)異化(hua)的(de)作用(yong):
云端ML:是指機器(qi)學習(xi)在企業(ye)內部或云(yun)端特定計(ji)算數據中(zhong)心的應(ying)用(yong)。這些(xie)云(yun)服(fu)務器(qi)涵(han)蓋所有類型(xing),包(bao)括(kuo)公共云(yun)、私有云(yun)和混(hun)合(he)云(yun)。此外,它還包(bao)括(kuo)運營控(kong)(kong)制中(zhong)心,例(li)如管理電(dian)網或電(dian)話(hua)網絡(luo)的那些(xie)運營控(kong)(kong)制中(zhong)心。
邊緣ML:是(shi)指機器學習在(zai)不處于核心數據中(zhong)心的(de)(de),企業級(ji)計算機/設(she)備(bei)中(zhong)的(de)(de)應用。邊(bian)緣設(she)備(bei)包括服務器機房,現場服務器,以(yi)及位于各個地區以(yi)加快響應速(su)度(du)為目的(de)(de)的(de)(de)小(xiao)型數據中(zhong)心。
TinyML:是指超低功耗的機器學習在物聯網各種終端微控制器中的應用。TinyML通常功耗為毫瓦(mW)級別甚至更低,因此可以支持各種不同的電池驅動的設備,和需要始終在線的應用。這些設備包括(kuo)智(zhi)能(neng)攝像頭(tou)、遠程(cheng)監控設備、可穿戴(dai)設備、音(yin)頻采集硬件以及各種傳感器等等……
再(zai)看(kan)TinyML的發展(zhan)現狀,從算法、軟件、硬(ying)件這(zhe)三個維度分(fen)析(xi),TinyML已經進(jin)化到“足(zu)夠好”,可以實際應用(yong)的階段。
TinyML是一個新興領域,是快速增長的機器學習技術和應用,是一片巨大的、未被充分開發的藍海。
數以億計的微控制器(qi)(qi)和(he)各(ge)種各(ge)樣的傳(chuan)感器(qi)(qi)結合(he)在一(yi)起,在未(wei)來可能(neng)會(hui)激發一(yi)些非常(chang)有創意、更具實用價值的TinyML應用。
對TinyML做個簡(jian)單總結:
What:TinyML是指超(chao)低功耗(毫瓦量級(ji))的邊緣側機器學習應用。
Why:TinyML可以提升大量物(wu)聯網設備(bei)的(de)數據分析和決策能(neng)力。
How:TinyML的(de)實(shi)現需要硬件(jian)、軟件(jian)和算法(fa)的(de)整體性協同設計(ji)。
When:現在(zai)是著手布(bu)局TinyML的最好時機。
TinyML蘊含巨(ju)大機會,很多剛(gang)剛(gang)浮現。未(wei)來一兩年內(nei),這個領(ling)域很可能會出(chu)現顯著進展。
接(jie)著(zhu)我們(men)再來看(kan)看(kan)什么是TinyML即服務。
這是(shi)愛立(li)信率先提出的一個理念。
首先,我們需要明確(que)的區分在物聯網終端(duan)中(zhong)應用機器(qi)學習(xi)的兩種方(fang)式:
為物聯網終端設備提供機器學習服務
在物聯網終端設備中內嵌TinyML即服務
這兩種(zhong)表述看似相像,實則不同(tong)。
在(zai)第(di)一種情況下,為物聯網終(zhong)端(duan)設備(bei)提(ti)供(gong)的機器(qi)學習服務,一般將所有(you)ML任務都“外包(bao)”給(gei)邊緣(yuan)設備(bei)和云服務器(qi),終(zhong)端(duan)設備(bei)則以(yi)接收者的身份(fen),“被(bei)動(dong)”執行(xing)由邊緣(yuan)和云端(duan)下發的各(ge)種任務。
在第二種(zhong)情況下(xia),物(wu)聯網終端設備中內(nei)嵌TinyML即服(fu)務,“主動”參與(yu)智能決策與(yu)執行。雖然(ran)與(yu)云(yun)端和(he)邊緣相比,終端設備的(de)資源非常有限,但TinyML即服(fu)務仍舊可(ke)以提升終端設備的(de)分析能力,以便其能更好的(de)處理實(shi)時物(wu)聯網數據。
因此TinyML即(ji)服務(wu),真正的實現了將機器學(xue)習帶入到物(wu)聯網終(zhong)端。
看到這里,你或許有個疑問:機器(qi)學習生態系統(tong)非常(chang)龐(pang)大,而且對資源要求很(hen)高。物聯(lian)網(wang)設備那么小,可(ke)以執行哪些機器(qi)學習任務?
為了更好(hao)的回(hui)答這個問題,我們先來(lai)說說TinyML和云端ML之間的差(cha)異,它們分別處于(yu)兩個截然不同(tong)的世界。
上(shang)圖是從硬件(jian)和(he)軟(ruan)件(jian)的角度,定性和(he)定量(liang)的比(bi)較TinyML和(he)云(yun)(yun)端(duan)ML的差異。與TinyML可以調用的資源(yuan)相比(bi),云(yun)(yun)端(duan)ML簡直是“富(fu)豪”。為了(le)順利推(tui)進,TinyML必須采用與云(yun)(yun)端(duan)ML不(bu)同的思維模式。
在本文最初的三環圖(tu)中可以看(kan)到,TinyML和Linux之(zhi)間(jian)并(bing)沒(mei)有(you)太多交(jiao)集。大量的物聯網設備(bei)并(bing)沒(mei)有(you)運行Linux的能力,TinyML無法(fa)調(diao)用很多成(cheng)熟的工具、應用和基于容器的虛擬化技術(shu),必須(xu)另辟蹊徑的解決各種軟件、硬件和算法(fa)極為缺(que)乏的問題,部署(shu)ML服務。
很多公(gong)司圍繞TinyML付出了各種努力(li),在后面的(de)部分(fen),我們將會(hui)介(jie)紹各種TinyML的(de)產品和最新(xin)實踐。
當然,想要在終端物聯網設備中,獲得和云端ML同樣的體驗是不現實的。TinyML主要實現的是推理(inference),也就是把從訓練中學習到的能力,應用到實際操作中去。
TinyML想(xiang)要(yao)落地,還(huan)需(xu)要(yao)一(yi)整套成熟的(de)架(jia)構。愛立(li)信將TinyML即服務的(de)生態系(xi)統拆(chai)分為3個基(ji)本組件:
編譯器插件接口
編排協議
推理模塊規格
支持這(zhe)三個(ge)組件(jian),表示(shi)物(wu)聯網硬件(jian)可以滿足實現TinyML即服務(wu)的(de)(de)基本要求。下圖(tu)中更詳細(xi)的(de)(de)展示(shi)了這(zhe)3個(ge)組件(jian)之(zhi)間的(de)(de)相(xiang)互作用:綠(lv)色代(dai)表編(bian)譯器(qi)插件(jian)接(jie)口,黃色代(dai)表編(bian)排協議和推(tui)理(li)模塊規(gui)格這(zhe)兩個(ge)部分。
實現TinyML即(ji)服務,需要面對的挑戰也(ye)是無(wu)比艱(jian)巨(ju)的:
TinyML不(bu)僅需要面臨(lin)邊緣ML的全(quan)部困(kun)難(nan),而且(qie)解決(jue)問題的能(neng)力更加(jia)有限;
如何借鑒云端ML的成功經驗,順(shun)利推進TinyML在(zai)終端中的部署;
如何為數量巨(ju)大的物聯網設備(bei),都能提(ti)供TinyML的良(liang)好體驗。
看到(dao)這里,你應該(gai)對(dui)TinyML的重要性已經(jing)有了自(zi)己的評估。
我們再來統一做(zuo)個梳理(li)。
TinyML的(de)出現,是為了更好的(de)緩解邊緣ML和云(yun)端ML中(zhong),無法突破(po)的(de)多(duo)種問題,包(bao)括數據隱私(si)、網絡帶寬(kuan)、時間延遲(chi)、可靠性和能源效率:
數據隱私:大量的最終用戶非常在意數(shu)(shu)據隱(yin)私(si)(si),在數(shu)(shu)據開放與共享方面保(bao)(bao)持謹慎態(tai)度。很多用戶不愿意將(jiang)自己的數(shu)(shu)據交由第三方云平臺和(he)(he)邊(bian)緣服務提(ti)供商,進行存儲(chu)和(he)(he)管理(li)。很多用戶傾(qing)向于定義清晰(xi)的“本地”物理(li)邊(bian)界,以保(bao)(bao)存其關鍵(jian)的生產和(he)(he)運營數(shu)(shu)據。TinyML嘗(chang)試(shi)在物聯網設備上,直接處理(li)和(he)(he)分析受(shou)限的敏感數(shu)(shu)據,保(bao)(bao)護了數(shu)(shu)據隱(yin)私(si)(si)。
網絡帶寬:很多(duo)物(wu)聯(lian)網(wang)(wang)設備(bei)(bei)通(tong)(tong)(tong)過窄帶(dai)物(wu)聯(lian)網(wang)(wang)NB-IoT或者其他低(di)功耗廣域物(wu)聯(lian)網(wang)(wang)通(tong)(tong)(tong)信(xin)協議與網(wang)(wang)絡(luo)通(tong)(tong)(tong)信(xin),帶(dai)寬(kuan)和(he)數(shu)據傳(chuan)輸能力極為有限。這(zhe)些設備(bei)(bei)有強烈的(de)在本地處理數(shu)據的(de)需求,以減少數(shu)據的(de)傳(chuan)輸,降(jiang)低(di)網(wang)(wang)絡(luo)帶(dai)寬(kuan)和(he)傳(chuan)輸功耗的(de)壓力,避免在終(zhong)端和(he)邊緣設備(bei)(bei)之間形成帶(dai)寬(kuan)瓶頸,影響(xiang)整套(tao)物(wu)聯(lian)網(wang)(wang)解決方案的(de)性(xing)能。
時間延遲:隨著5G等技術的發展,海量物聯網設備(bei)將被(bei)部(bu)署,很多應用場(chang)景都(dou)對時間延遲(chi)非常敏感,希望數(shu)據可(ke)以被(bei)實時傳輸。TinyML通過將某(mou)些(xie)機器學習任務轉(zhuan)移到設備(bei)本(ben)身,來進(jin)一步減少網絡延遲(chi)的可(ke)能性。
可靠性:在偏(pian)遠地區、海上(shang)平臺(tai)、空間站、極端環(huan)境的(de)應用中,網絡通信有(you)可(ke)能(neng)無法保證始終(zhong)覆蓋(gai)。因此在這(zhe)些物聯(lian)網設備中,具(ju)備機器(qi)學習(xi)(xi)能(neng)力(li)是一種必要功能(neng)。TinyML可(ke)以將某些邊緣(yuan)和云(yun)端中的(de)機器(qi)學習(xi)(xi)能(neng)力(li)移(yi)植到本地,提升可(ke)靠性。
能源效率:許多物聯網(wang)設(she)備都是(shi)電池(chi)供電,對于(yu)功耗的要(yao)求很高。通過極低功耗TinyML的數據分析,減(jian)少(shao)網(wang)絡傳輸的數據量,可(ke)以在一定程度上,節約物聯網(wang)終端中的電量消耗。
因為具備解決(jue)多種問題的(de)潛力,有望突破成本、帶寬和功耗(hao)的(de)限(xian)制,因此一(yi)經提出,TinyML就獲得了廣泛關注,并被(bei)賦予了較高期(qi)待。
海量的(de)物聯網(wang)設備位于網(wang)絡邊緣,并且(qie)這(zhe)些設備有越(yue)來(lai)越(yue)小的(de)趨勢,因此TinyML的(de)未來(lai)發(fa)展,具有極大的(de)想(xiang)象空(kong)間。
目前全(quan)球(qiu)有(you)2500億個微控(kong)制(zhi)器在各地運行,僅(jin)2018年(nian)(nian)一年(nian)(nian)就(jiu)售出了281億個單元,IC Insights預測,到2023年(nian)(nian),微控(kong)制(zhi)器的年(nian)(nian)出貨量將增長到382億個。而且這些微控(kong)制(zhi)器對應的設備,都有(you)變得越來越智能的需求。
換句話說,未來分布在煙霧(wu)傳感(gan)器(qi)(qi)、心臟起搏(bo)器(qi)(qi)、車載終端中(zhong)的2500億個微(wei)控(kong)制器(qi)(qi),有(you)可(ke)能可(ke)以執行以前只有(you)計算機和智能手機才能處理的任務。
根(gen)據SilentIntelligence的(de)預(yu)測,在未來5年(nian),TinyML將觸發(fa)超過700億美元的(de)經濟價值(zhi),并(bing)且保持超過27.3%的(de)復合年(nian)均增長率(CAGR)。
TinyML的(de)市場規模(mo)比邊緣ML和云端(duan)ML都(dou)要(yao)大。
但(dan)是如(ru)(ru)此巨大的(de)(de)(de)市場,卻(que)較(jiao)難開發。因此TinyML涉及到不同公司(si)的(de)(de)(de)協同,公司(si)之間的(de)(de)(de)商業(ye)模(mo)式也有本質區別(bie)。以TinyML領域的(de)(de)(de)人(ren)工智(zhi)能SaaS服務(wu)商SensiML為例,其商業(ye)模(mo)式如(ru)(ru)下圖(tu)所示。
2019年(nian)1月(yue),當時成立6年(nian)的SensiML被(bei)QuickLogic公司(si)并購。根(gen)據QuickLogic的財報披露,QuickLogic以全部股票交(jiao)易(yi)方式收(shou)購其所有已(yi)發(fa)行(xing)和流通在外的普通股,總價為1,169,752美(mei)元。
上圖是由Topio Networks整理的邊緣智能產業圖譜。
邊緣ML是(shi)個相(xiang)對(dui)成熟的(de)領域(yu),很多(duo)企業(ye)都(dou)在(zai)其中(zhong)精耕細(xi)作(zuo),他們當(dang)中(zhong)的(de)很多(duo)也已(yi)經開(kai)始(shi)了TinyML的(de)嘗試。
ARM、高通、谷歌(ge)、博世(shi)、蘋果和微(wei)軟等公(gong)司(si),正試圖加速推進TinyML的落地,將其搭載于各種(zhong)傳感器上。
比如高(gao)通(tong)推(tui)出了超(chao)低功耗(hao)的always-on計算機視覺(jue)解決方案。
該方案(an)具有(you)超低功耗,始終(zhong)保持開啟(qi)狀態,使用(yong)系統電源小于1mA標(biao)準鋰電池,典(dian)型幀率為(wei)1-30 fps。
對應的產品Qualcomm? QCC112,已經可以(yi)實現(xian)商用。
博世推出了用(yong)(yong)于物聯(lian)網的MEMS傳感器,可實現TinyML應用(yong)(yong)。
蘋果以(yi)2億(yi)美元收購了TinyML初創公司Xnor.ai。Xnor.ai致力于開發高效(xiao)、低功耗的(de)TinyML應用(yong),這些(xie)應用(yong)不(bu)需(xu)要強大的(de)處理(li)能力,也不(bu)需(xu)要連接到(dao)云端,而(er)是(shi)在設備上(shang)處理(li)本地(di)數據。
ARM最近公布了兩款芯片設計,它(ta)們分別(bie)是ARM Cortex-M55和Ethos-U55,可以實現在沒有云端連接的設備上(shang),執行機器學習的能力。
ARM認為這(zhe)兩款產品(pin)的(de)推(tui)出,將會開啟終端智能的(de)新(xin)紀元。
ARM設(she)想(xiang)的用(yong)例是在智能手杖(zhang)中的360度攝像頭,可以(yi)自動(dong)識(shi)(shi)別(bie)障礙(ai)物并(bing)上報主(zhu)人(ren),或者搭載于高鐵中的智能傳感器(qi),可以(yi)就地(di)識(shi)(shi)別(bie)問題并(bing)及時報警,避免延(yan)誤。
新品的推出將(jiang)會極大的提升ML推理(li)速度和能(neng)源(yuan)效率。
不過預計相關的(de)芯片,最早要到2021年初才能問世。
除了巨頭之外,初創(chuang)公司在(zai)TinyML領(ling)域也非常活(huo)躍。
GreenWaves公司(si)采用(yong)多個(ge)(ge)RISC-V內核(he),在超低(di)功耗下實現TinyML應用(yong)。其第二代產品GAP9,擁(yong)有(you)10個(ge)(ge)RISC-V核(he)心。其中,一個(ge)(ge)作為結構控(kong)制器,另外9個(ge)(ge)形成計算集群(qun)。這些(xie)控(kong)制器和計算集群(qun),運行(xing)于(yu)獨立的電壓和頻率(lv)域。并通(tong)過(guo)支持最先進的FD-SOL處理技術,進一步降低(di)了(le)功耗。
Eta Compute公(gong)司的ECM3532適用于低功耗IoT,擁(yong)有兩個核心,Arm Cortext-M3和DSP。可實現長(chang)待機狀態下(xia)的圖(tu)像(xiang)處理和傳感聚合(he),功耗僅(jin)為100微(wei)瓦。該芯(xin)片具有512KB閃存和256KB SRAM,Eta Compute展(zhan)示的案例包括語(yu)音、圖(tu)像(xiang)和視頻識(shi)別,以及在工業傳感場景中(zhong)的應用。
TinyML尚處于(yu)應用的早期,在一些領域有了初步實(shi)踐:
車載應用:Swim.AI在實時數據傳(chuan)輸的過程(cheng)中(zhong)使用TinyML,通過有效提升(sheng)傳(chuan)感器中(zhong)對于實時交(jiao)通數據的智能(neng)化處理(li)能(neng)力,減(jian)少(shao)了乘(cheng)客的等候時間、交(jiao)通擁堵的概率(lv)、改(gai)善(shan)汽車的排放并提升(sheng)乘(cheng)車安全。
智能工廠:在(zai)制造業中(zhong),TinyML可(ke)以通過啟用實(shi)時決策,減少由于設(she)備(bei)故障而導致的非計劃性停機。它可(ke)以根(gen)據設(she)備(bei)狀況提醒工人必要時進行預防性維護。
QuickLogic的子(zi)公司SensiML在這個領域進行(xing)了(le)不錯的嘗試,基于(yu)他們的產(chan)品(pin)可以快(kuai)速構建智(zhi)能傳感方案。
并且SensiML已經將TinyML用于(yu)工業(ye)預(yu)測性維(wei)護的(de)相關場景中(zhong)。
對于預測性維護應用的(de)(de)開(kai)發(fa)人(ren)員,SensiML智能(neng)化(hua)軟件(jian)工具包(bao)的(de)(de)優勢在于,它使開(kai)發(fa)人(ren)員能(neng)夠在數天、數周內構建(jian)智能(neng)物(wu)聯網傳感設備,而(er)無需數據科學(xue)或(huo)嵌(qian)入式固件(jian)專(zhuan)業知識。
該(gai)軟件(jian)包括SensiMLData Capture Lab(數(shu)據捕獲(huo)實驗室),這是(shi)一個用于收集和整理訓練數(shu)據集的集成工(gong)具(ju)。
對(dui)于預測性維護,數據集是來自各類傳感器的時間序列數據。SensiML人(ren)工(gong)智能(neng)軟件工(gong)具包分析標記(ji)數據,以生成可(ke)實施異常檢測的分類器算法。然后使用同一(yi)工(gong)具編譯算法以在(zai)所選硬件目標上運行,例(li)如微控制器或QuickLogic自己的QuickAI片上系統平(ping)臺(tai)。
智能零售:通過監控店內貨架,并在商品數量低于一定水平時(shi),立(li)即發送警報(bao),TinyML可以(yi)防止零(ling)售端的(de)商品脫銷(xiao)。
智慧農業:農(nong)(nong)民可(ke)能因(yin)動物疾病而遭受(shou)嚴重損(sun)失。利用搭載TinyML的(de)(de)遠程監(jian)控設備,實時(shi)監(jian)測(ce)牲畜(chu)的(de)(de)心臟、血壓、體溫,土壤(rang)的(de)(de)溫濕度等狀況,可(ke)以幫助農(nong)(nong)民預測(ce)和預防養植物和牲畜(chu)流行病的(de)(de)發作。
每項成功的(de)技術,都(dou)離不開核(he)心(xin)團隊和相關組織(zhi)的(de)推進。
TinyML領域(yu)最活躍的組(zu)織是(shi)TinyML基金(jin)會,這是(shi)一個(ge)由工程(cheng)師們自發構(gou)建的社群(qun),成立于2019年(nian)7月,經(jing)常(chang)進(jin)行小(xiao)型交(jiao)流,并且(qie)每(mei)年(nian)舉辦TinyML峰會。
如果感(gan)興趣(qu),你(ni)可以通(tong)過(guo)登錄下面的(de)網站,了解(jie)關于TinyML基金會和峰會的(de)更多(duo)信息(xi):
//tinymlsummit.org/
寫在最后
微小的TinyML將會(hui)變得很大(da),這個新生事物正(zheng)在逐步成型(xing)的過程中,需要來自軟件(jian)側、硬(ying)件(jian)側、算法側、應(ying)用(yong)側等(deng)涉及多方的通(tong)力協作,才能(neng)有(you)效構建完(wan)整的生態系統。
關于(yu)這個領域的最新進(jin)展(zhan),我還會持續(xu)追蹤。
本文小結:
1.TinyML是機器學習(xi)在(zai)微(wei)控制器上的(de)應(ying)用(yong),是超低功耗(hao)邊緣側人工(gong)智能。TinyML通常功耗(hao)為毫瓦(mW)級別甚至更低,因此可以(yi)支持各(ge)種不同的(de)電(dian)池驅動的(de)設備(bei),和需要始終(zhong)在(zai)線的(de)應(ying)用(yong)。
2.想要(yao)在(zai)終端物聯網設備中,獲得(de)和云端ML同樣的(de)體驗是不現實(shi)的(de)。TinyML主要(yao)實(shi)現的(de)是推理(li)(inference),也就是把從(cong)訓練中學習到的(de)能力,應用到實(shi)際(ji)操作中去(qu)。
3.TinyML是一(yi)個新興領域,是快速增長的(de)機器學習(xi)技術和應用,是一(yi)片巨大的(de)、未被充分開發的(de)藍海(hai)。
參考資料:
How Engineers Are Using TinyML to BuildSmarter Edge Devices
Engineers are Pushing Machine Learningto the World’s Humblest Microprocessors
How can we democratize machine learningon IoT devices?
TinyML as-a-Service: What is it and whatdoes it mean for the IoT Edge?
TinyML as a Service and the challengesof machine learning at the edge
Engineering Tiny Machine Learning forthe Edge
AI at the Very, Very Edge
TinyML: The challenges and opportunitiesof low-power ML applications
TinyML Sees Big Hopes for Small AI
Adapting the Microcontroller for AI inthe Endpoint
AI for Edge landscape