嵌入式開發(fa)的轉變(bian)將如何影(ying)響未來計算
作者：Arm 高級副總裁兼物聯網事業部總經理 Paul Williamson
當(dang)前，開發者正在利用安(an)全且性能增強的(de)技術實現(xian)小(xiao)型(xing)低功耗嵌入式系統的(de)開發，賦能過往無法想(xiang)象的(de)語(yu)音、視覺和振動等 AI 應(ying)用(yong)，而這些應(ying)用(yong)正在(zai)改變著世(shi)界(jie)。
嵌(qian)入式領域正經歷一場深(shen)刻(ke)的變(bian)革。連接(jie)設備正逐(zhu)漸演變(bian)為(wei)可(ke)根據所(suo)收(shou)集(ji)的數據自行做出(chu)決策的系統。相較于在(zai)物聯網網關或云端進行數據處(chu)(chu)理而(er)言，在(zai)更接(jie)近采集(ji)源之處(chu)(chu)完(wan)成(cheng)數據處(chu)(chu)理的方(fang)式，將有(you)望加快(kuai)決策速(su)度、減少延遲(chi)、解決數據隱私問(wen)題、降低成(cheng)本并提高能效。
很多應用領域都在推升邊緣計算在性能和功能方面的需求，諸如工業自動化、機器人、智慧城市和家居自動化等。在過去，這類系統中的傳感器要簡單得多且互不相連，然而，現在人工智能 (AI) 和機器學習(xi) (ML) 提(ti)升了(le)本(ben)地智(zhi)能(neng)化水平，在端側(ce)即可完成決策的制(zhi)定，這在過去使(shi)用(yong)的簡單控制(zhi)算法是無法實現的。
AI 時代(dai)通用(yong)處理器的演進
多年以前，開(kai)發(fa)者專注(zhu)于把邏輯和控制算法(fa)作(zuo)為軟件開(kai)發(fa)的核心，然而，隨著數字(zi)信號處理 (DSP) 算法的出現(xian)，為諸多(duo)功(gong)能增強的語(yu)音、視覺和(he)音頻應用(yong)提供了支持。
這種應用開發的轉變進入到了全新時代，且正在影響計算架構的設計。我們現已發展到以推理作為算法開發的主要核心，這一階段帶來了對計算性能、能效、延遲、實時處理和可擴展性等方面新的或更高的要求。
行業的需求不僅(jin)在新處理器加速器方面(mian)，也包(bao)括通用處理能(neng)力的提升，以便能為開(kai)發者(zhe)提供必要的(de)平衡，并支持直(zhi)播視(shi)頻中的(de)特征檢查或人物檢測等(deng)應用。
幾年(nian)前，開(kai)發者(zhe)在創建噪(zao)聲(sheng)消除應用(yong)時還只(zhi)能依(yi)賴基于頻率的濾波器。而如今(jin)，開(kai)發者(zhe)可以通過(guo)將濾波與 ML/AI 模型和(he)(he)推(tui)理相結(jie)合來提高應用的(de)性(xing)能和(he)(he)功(gong)能。為了使(shi)這些開(kai)發任務(wu)更加高效，并盡可能無(wu)縫地為用戶服務(wu)，對處(chu)理器和(he)(he)工具的(de)需(xu)求也與日俱增。
促進邊緣(yuan)側和(he)端側設(she)備的(de)智(zhi)能化
這(zhe)項(xiang)演進與革新是由 ML 所驅動，但同時也面臨著(zhu)諸多(duo)技術的(de)(de)(de)挑戰。經過多(duo)年的(de)(de)(de)嘗試，試圖打造一(yi)套普適(shi)于物聯網(wang)及嵌(qian)入式設備的(de)(de)(de)開(kai)發(fa)方(fang)法，已促使著(zhu)行業轉變物聯網(wang)開(kai)發(fa)的(de)(de)(de)方(fang)式，以釋放(fang)規(gui)模(mo)化擴(kuo)展的(de)(de)(de)無(wu)限可(ke)能性。
當前，開發者正在利用安全且性能增強的技術實現小型低功耗嵌入式系統的開發，賦能過往無法想象的語音、視覺和振動等應用，而這些應用正在改變著世界。各種版本的編程語言和 Transformer 模型將很快在具(ju)有全新計算(suan)功能的物聯網邊緣設備中占據一席之地。這無疑為開(kai)發者帶來(lai)夢寐以求的更多可能性。
在開發(fa)演進與革新的過程(cheng)中，為了滿(man)足開發(fa)者對硬(ying)件(jian)的需求，幾年前 Arm 在 Armv8.1-M 架構(gou)中引入了Arm? Helium? 矢量處理技術。Helium 為小型低功(gong)耗嵌(qian)入(ru)式設備的 ML 和 DSP 應用帶來了顯著的性能提升。此(ci)外(wai)，它(ta)還提(ti)供單指令多數(shu)據 (SIMD) 功能，由此將 Arm Cortex?-M 設備的性能提升到全新水平，并支持預測性維護(hu)和環境(jing)監(jian)控等應(ying)用(yong)。
Helium 提高了 DSP 和(he) ML 性(xing)能(neng)，加(jia)快了信號調節（例如濾(lv)波、噪聲(sheng)消除和(he)回(hui)聲(sheng)消除）和(he)特(te)征提取（音頻或像素(su)數據(ju)）的(de)(de)速度(du)，繼(ji)而能(neng)將(jiang)之傳輸(shu)到采用神(shen)經(jing)網絡處理器的(de)(de)分類中。
實現(xian)智能邊緣側的(de)功能
我們可以看到，很(hen)多 Arm 的合作(zuo)伙伴都在他們最新的產品中引入了 Helium 技術，由此助(zhu)力開發者在網(wang)絡最遠端的受限設備上發揮 ML 功能的優勢。2020 年二(er)月，Arm 推出了(le)采(cai)用 Helium 技術的 Cortex-M55 處理器(qi)，Alif Semiconductor 于 2021 年(nian)九月推出了首(shou)款基于 Cortex-M55 的芯片，并在其 Ensemble 和 Crescendo 產品(pin)系(xi)列中部署了搭(da)載 Helium 的 Cortex-M55 處理器。此外，奇景光電 (Himax) 也采用了配備 Helium 的(de) Cortex-M55 于其下一代 WE2 AI 處理器，并以由電池供電的物聯(lian)網設(she)備中(zhong)的計算機視覺系統為目標應(ying)用領(ling)域。
2022 年四月， Arm 推出了第二款(kuan)支持 Helium 的 CPU——Arm Cortex-M85。瑞薩電子在 embedded world 2022 和(he) embedded world 2023 上曾就 Cortex-M85 進行過技術(shu)演示。演示中，Plumerai 通(tong)過瑞薩電子 RA MCU 技術大大加(jia)快了其推理引(yin)擎速度。作為(wei)一家(jia)開發基于攝像頭實現人物檢測的(de)完整軟件解決方案的(de)公司，Plumerai 相信，性能的提升將確(que)保(bao)該公司(si)的客戶可充分利用更(geng)龐大、更(geng)準確(que)的 Plumerai 人(ren)物檢測 AI 版本，同(tong)時提供更多的產(chan)品功能(neng)并(bing)延(yan)長電(dian)池續航時間。2023 年十一月(yue)，Arm 推出了第三款采用 Helium 技術的 CPU——Cortex-M52，這是一款專為人工智能物聯網 (AIoT) 應用(yong)而設(she)計的處理器，可為(wei)小型(xing)低(di)功耗嵌(qian)入式設(she)備的 DSP 和 ML 應用(yong)帶來顯著的性能提(ti)升，無(wu)需專用(yong) NPU 即可在端點(dian)中部署更多計(ji)算密集型ML 推理算(suan)法。
隨(sui)著硬件(jian)的(de)(de)發展，開(kai)發者所面臨的(de)(de)軟件(jian)復雜性也日益增(zeng)加，因而需要新的(de)(de)開(kai)發流程(cheng)來創建(jian)結合高效(xiao)設(she)備驅動程(cheng)序的(de)(de)優化ML 模型。為(wei)生態系統(tong)提供的軟(ruan)件開發平臺和工具也(ye)必(bi)須緊跟硬件而演(yan)進，這一點至(zhi)關重要。
如今由 Arm 和第三(san)方提供(gong)的多種工具可(ke)用于支持終端用戶(hu)創(chuang)建 AI 算法。數據科(ke)學家在離(li)線環境中創(chuang)建好模型后，即(ji)可(ke)使(shi)用相應的工具來優化模型，以便在基于Arm Ethos?-U 的 NPU 上(shang)運(yun)行模型，或(huo)在基于 Cortex-M 的處理(li)器上使(shi)用 Helium 指令。
Qeexo 是第一家為邊緣設備實現端到端 ML 自(zi)動化的公司(si)，其 AutoML 平臺(tai)提供了直觀的用戶界面 (UI)，允許用(yong)戶對(dui)傳感器數據進(jin)行(xing)收集、清理和可視化呈現，并(bing)使用(yong)不同的算(suan)法來自動(dong)構建 ML 模型(xing)。Keil 微控(kong)制器開發套(tao)件 (Keil MDK) 等傳(chuan)統(tong)嵌入式工(gong)具是對 MLOps 工具(ju)的有益補充(chong)，并有助于建立用于驗證復雜(za)軟件工作負(fu)載的 DevOps 流程。由(you)此，嵌入式、物聯網和 AI 應(ying)用程(cheng)序(xu)最終匯聚于軟件(jian)開發者(zhe)都(dou)熟知的單一開發流程(cheng)中。
邊緣的(de)(de)潛能正在逐(zhu)步被發掘。當前對提升(sheng)微控制器性(xing)能的(de)(de)需求還在不斷增(zeng)長，特別是(shi)諸(zhu)如聲控門鎖、人物檢測(ce)識別、帶有預測(ce)性(xing)維護的(de)(de)聯網電機控制，以及數不勝數的(de)(de)其(qi)他高端(duan) AI 和 ML 應(ying)用(yong)等(deng)任務。
我(wo)們相(xiang)信，在正確技術的(de)加持下(xia)，開發(fa)者(zhe)可以重新構想邊緣和(he)端側設備，并在性能(neng)、成本、能(neng)效與隱私等這些受(shou)限設備中的(de)關鍵(jian)要素之(zhi)間(jian)取得適(shi)當平衡，讓未來的(de)嵌入式開發(fa)實現 AI 計(ji)算(suan)的應用。
