當您將模擬計算的優點應用于 ML 時會發生什么?據 Aspinity 稱，這種芯片可將系統功耗降低多達 95%。
在(zai)為(wei)像 TinyML 這樣的(de)應用程序尋(xun)求更節(jie)能的(de)計算(suan)(suan)時，正在(zai)開發的(de)更有前途的(de)技(ji)術(shu)之一是模擬計算(suan)(suan)。如果(guo)處理得當(dang)，模擬可以帶來更節(jie)能的(de)計算(suan)(suan)，從(cong)而(er)為(wei)邊(bian)緣計算(suan)(suan)節(jie)省大量(liang)能源。
今天，模擬計算公司 Aspinity 發布了新的模擬 TinyML 芯片 AML100，成為頭條(tiao)新聞(wen)。
Aspinity 稱(cheng) AML100 是“世界(jie)上第(di)(di)一(yi)款模(mo)(mo)(mo)擬(ni) ML 芯片(pian)(pian)”。 該公(gong)司聲稱(cheng)，其新產品是業(ye)界(jie)第(di)(di)一(yi)個也是唯一(yi)一(yi)個“完全在(zai)(zai)模(mo)(mo)(mo)擬(ni)域內”運(yun)行的(de) TinyML 解決方案(an)，其結果(guo)是為邊緣(yuan)應用節省了(le)能源(yuan)。該公(gong)司在(zai)(zai)模(mo)(mo)(mo)擬(ni)計算市場(chang)上有著開創性(xing)的(de)記錄，兩年前發布了(le)具(ju)有“選擇性(xing)聽力”功能的(de) ML 模(mo)(mo)(mo)擬(ni)芯片(pian)(pian)。
All About Circuits 有機(ji)會與 Aspinity 的創始(shi)人兼首(shou)席(xi)執行官 Tom Doyle 交談，以直接了解新產品。
Aspinity 對傳統模擬計算的改進
今天的大多數(shu)模(mo)(mo)擬(ni)計(ji)(ji)算解決(jue)方案在很大程度上仍(reng)然存在于數(shu)字(zi)領域(yu)。數(shu)據(權重)存儲在數(shu)字(zi)域(yu)中(zhong)，但使用 DAC 轉換回模(mo)(mo)擬(ni)量(liang)以進行計(ji)(ji)算。
當(dang)嘗試在(zai)(zai)諸(zhu)如始(shi)終在(zai)(zai)線喚(huan)醒字檢測等應用中實現低功耗(hao)時，這種從原生模擬(ni)到數字、再(zai)到模擬(ni)的持續數據(ju)轉換可能會限制原始(shi)模擬(ni)計算(suan)提(ti)供的節能效(xiao)果。
“許多(duo)利用‘模(mo)(mo)擬’和‘模(mo)(mo)擬計算’這個詞的人通(tong)(tong)常試(shi)圖(tu)解決數字(zi)(zi)(zi)(zi)領域(yu)內(nei)的問(wen)題(ti)，”Doyle 說。“如果你閱讀他(ta)們(men)的網站并深入挖掘，你會發現他(ta)們(men)實際上是(shi)(shi)數字(zi)(zi)(zi)(zi)域(yu)處理器，這意味著他(ta)們(men)實際上是(shi)(shi)在(zai)使用數字(zi)(zi)(zi)(zi)數據。他(ta)們(men)試(shi)圖(tu)用模(mo)(mo)擬做(zuo)的是(shi)(shi)通(tong)(tong)過在(zai)內(nei)存中進行模(mo)(mo)擬計算來實際節省數字(zi)(zi)(zi)(zi)內(nei)核(he)中的功(gong)率(lv)。這很棒，我們(men)都支持它(ta)，但它(ta)非(fei)常有限。”
Aspinity 的(de)永遠在線架(jia)構(gou)與傳(chuan)統計算(suan)的(de)對比(bi)。 Aspinity 的(de) AML100 采(cai)用了不同(tong)的(de)方法。Doyle 解釋說：“相反，我們(men)能夠將機(ji)器(qi)學(xue)習能力(li)從數字領域直(zhi)接轉移到(dao)模(mo)(mo)擬領域。我們(men)能夠分析來自本機(ji)模(mo)(mo)擬的(de)原始(shi)傳(chuan)感器(qi)數據，然后我們(men)能夠關閉 ADC 和(he)數字處理器(qi)。”
通過這種方式，AML100 保留數據(ju)并(bing)完全(quan)在(zai)(zai)模擬(ni)域中(zhong)執(zhi)行 AI/ML 計算。由于(yu)工(gong)程師現在(zai)(zai)可以(yi)在(zai)(zai)檢測到重(zhong)要數據(ju)之前(qian)將數字(zi)組件保持在(zai)(zai)低功(gong)耗(hao)模式，因(yin)此這可以(yi)節省整體系統功(gong)耗(hao)，同時最大限度地減少總數據(ju)量，從(cong)而消除數字(zi)化(hua)、數字(zi)處(chu)理和無關(guan)數據(ju)傳輸的功(gong)耗(hao)損失。
Aspinity AML100
據介紹，Aspinity 的新(xin) AML100 芯片(pian)利用(yong)這(zhe)種新(xin)架(jia)構為客戶(hu)提(ti)供顯(xian)著的節能效(xiao)果。
該芯(xin)片的(de)模(mo)(mo)(mo)(mo)擬(ni)計算基于一組(zu)獨立的(de)、可(ke)配(pei)置的(de)模(mo)(mo)(mo)(mo)擬(ni)模(mo)(mo)(mo)(mo)塊(kuai) (CAB)，每個模(mo)(mo)(mo)(mo)塊(kuai)都(dou)可(ke)以在軟件內完全進(jin)行現場(chang)編程，從而實現廣泛的(de)功能、傳感器輸(shu)入和(he)應用(yong)。在這些 CAB 的(de)更(geng)深處，人們會發現模(mo)(mo)(mo)(mo)擬(ni)非易失性(xing)存儲器陣(zhen)列以及(ji)模(mo)(mo)(mo)(mo)擬(ni)信號處理(li)模(mo)(mo)(mo)(mo)塊(kuai)。該芯(xin)片還利用(yong)專(zhuan)有的(de)模(mo)(mo)(mo)(mo)擬(ni)壓縮技術，允(yun)許預卷(juan)收集和(he)喚(huan)醒(xing)詞(ci)檢測等(deng)應用(yong)的(de)準確性(xing)。
AML100 的框圖。 Aspinity 還表示，該芯片(pian)支(zhi)持多種模型架構(gou)和機(ji)器學習應(ying)用。
“在我(wo)(wo)(wo)們(men)對(dui)喚醒詞檢測等(deng)應用(yong)的(de)(de)大(da)(da)多數測試中，我(wo)(wo)(wo)們(men)發現(xian)(xian) AML100 使用(yong)了大(da)(da)約四分之一的(de)(de)可用(yong)資源，”Doyle 解釋(shi)說。“我(wo)(wo)(wo)們(men)發現(xian)(xian)有大(da)(da)量剩余資源，這表明如(ru)果(guo)需要，我(wo)(wo)(wo)們(men)可以切實(shi)支持各種模型和(he)新的(de)(de) ML 架構。”
總體而(er)言，據說該芯片在執行始終開(kai)啟(qi)感應時消耗(hao)(hao)不到 20uA。據 Aspinity 稱(cheng)，AML100 使工程師始終在線的系統(tong)功耗(hao)(hao)降低了 95%。
切割數據和功率
雖然市場(chang)上存在其(qi)他模擬解決方案，但 Aspinity 聲(sheng)稱其(qi)方法(fa)是新穎(ying)的——它帶來了可(ke)(ke)衡量(liang)的好處。AML100 據(ju)稱可(ke)(ke)將數據(ju)減少多(duo)達 100 倍(bei)，同(tong)時節(jie)省多(duo)達 95% 的電力，可(ke)(ke)能會對邊(bian)緣計算和 TinyML 世(shi)界(jie)產生顯著影響。
