當您將模擬計算的優點應用于 ML 時會發生什么?據 Aspinity 稱，這種芯片可將系統功耗降低(di)多(duo)達 95%。
在為像 TinyML 這樣的(de)應用(yong)程序(xu)尋(xun)求(qiu)更節能的(de)計(ji)算(suan)時(shi)，正在開發的(de)更有前途的(de)技術之一(yi)是模擬計(ji)算(suan)。如果處理得當，模擬可以帶(dai)來(lai)更節能的(de)計(ji)算(suan)，從而為邊(bian)緣計(ji)算(suan)節省大量能源。
今(jin)天，模擬計(ji)算公司 Aspinity 發布了新的模擬 TinyML 芯片 AML100，成為頭條(tiao)新聞。
Aspinity 稱 AML100 是(shi)“世界上第一款模(mo)擬 ML 芯片”。 該(gai)公司聲(sheng)稱，其新產品是(shi)業界第一個(ge)也是(shi)唯(wei)一一個(ge)“完全在模(mo)擬域內”運行的(de) TinyML 解(jie)決方案，其結(jie)果是(shi)為邊緣應(ying)用節省了能源。該(gai)公司在模(mo)擬計算市場上有著(zhu)開創性的(de)記錄，兩年前發布了具(ju)有“選擇性聽力(li)”功能的(de) ML 模(mo)擬芯片。
All About Circuits 有機會與 Aspinity 的創始人兼首席執(zhi)行官 Tom Doyle 交談，以直接了解新產品。
Aspinity 對傳統模擬計算的改進
今天(tian)的大(da)多數模(mo)(mo)擬計算解決(jue)方案在(zai)很大(da)程度上仍(reng)然存(cun)在(zai)于數字領(ling)域(yu)(yu)。數據(權(quan)重)存(cun)儲(chu)在(zai)數字域(yu)(yu)中，但使用 DAC 轉換回模(mo)(mo)擬量以進行計算。
當嘗試在(zai)(zai)諸如始(shi)終在(zai)(zai)線喚醒字檢測等應用中實現低功耗時，這(zhe)種從原生(sheng)模(mo)擬(ni)(ni)(ni)到數字、再到模(mo)擬(ni)(ni)(ni)的持續數據轉換可能會(hui)限制(zhi)原始(shi)模(mo)擬(ni)(ni)(ni)計算提供(gong)的節(jie)能效果。
“許多利用‘模擬(ni)’和‘模擬(ni)計(ji)(ji)算’這個(ge)詞的(de)人通(tong)常試(shi)圖(tu)解決數字(zi)(zi)領(ling)域內(nei)(nei)的(de)問題(ti)，”Doyle 說。“如果你(ni)閱(yue)讀他(ta)們(men)的(de)網站(zhan)并深入挖(wa)掘，你(ni)會發現他(ta)們(men)實際上(shang)是(shi)數字(zi)(zi)域處(chu)理(li)器，這意味著他(ta)們(men)實際上(shang)是(shi)在使(shi)用數字(zi)(zi)數據。他(ta)們(men)試(shi)圖(tu)用模擬(ni)做的(de)是(shi)通(tong)過在內(nei)(nei)存(cun)中進行(xing)模擬(ni)計(ji)(ji)算來(lai)實際節省數字(zi)(zi)內(nei)(nei)核(he)中的(de)功(gong)率。這很(hen)棒(bang)，我們(men)都支(zhi)持它(ta)，但它(ta)非常有限。”
Aspinity 的永遠在(zai)線架構與傳(chuan)統計算的對比。 Aspinity 的 AML100 采用了不同(tong)的方法(fa)。Doyle 解釋說：“相反，我(wo)們(men)能(neng)夠(gou)將機器(qi)學習能(neng)力從數(shu)(shu)字領(ling)域直接轉(zhuan)移到模擬(ni)領(ling)域。我(wo)們(men)能(neng)夠(gou)分析(xi)來自本機模擬(ni)的原始傳(chuan)感器(qi)數(shu)(shu)據(ju)，然后我(wo)們(men)能(neng)夠(gou)關閉 ADC 和數(shu)(shu)字處理器(qi)。”
通過(guo)這種方式，AML100 保(bao)留數據并完全在(zai)(zai)模擬域中(zhong)執行 AI/ML 計算。由于工程師現在(zai)(zai)可以在(zai)(zai)檢測到重要(yao)數據之(zhi)前將數字(zi)組(zu)件保(bao)持在(zai)(zai)低功(gong)耗模式，因此(ci)這可以節(jie)省(sheng)整體系統功(gong)耗，同時最大限度地減少總數據量，從而消除數字(zi)化、數字(zi)處(chu)理(li)和無關數據傳輸的(de)功(gong)耗損失。
Aspinity AML100
據介紹，Aspinity 的新 AML100 芯片利用這種新架構為客戶提(ti)供顯(xian)著的節能效果。
該(gai)芯片的(de)模(mo)(mo)(mo)擬(ni)(ni)計算(suan)基于一組獨(du)立的(de)、可配置的(de)模(mo)(mo)(mo)擬(ni)(ni)模(mo)(mo)(mo)塊 (CAB)，每(mei)個模(mo)(mo)(mo)塊都可以在軟件內完全進行現(xian)場編程，從而實現(xian)廣泛的(de)功能、傳感器(qi)輸入和應(ying)用。在這些(xie) CAB 的(de)更(geng)深處，人們會發(fa)現(xian)模(mo)(mo)(mo)擬(ni)(ni)非易失性存儲器(qi)陣(zhen)列以及模(mo)(mo)(mo)擬(ni)(ni)信(xin)號處理模(mo)(mo)(mo)塊。該(gai)芯片還利用專有的(de)模(mo)(mo)(mo)擬(ni)(ni)壓(ya)縮技(ji)術，允許預卷收集和喚(huan)醒詞檢(jian)測等(deng)應(ying)用的(de)準確性。
AML100 的(de)框圖。 Aspinity 還表示，該芯片支持多種模型(xing)架構和(he)機器學習應用。
“在我(wo)們(men)(men)對喚醒詞(ci)檢測等應用的(de)大多數測試中，我(wo)們(men)(men)發(fa)(fa)現 AML100 使(shi)用了大約四(si)分之(zhi)一的(de)可用資源，”Doyle 解釋說(shuo)。“我(wo)們(men)(men)發(fa)(fa)現有大量剩余資源，這(zhe)表明(ming)如果需要，我(wo)們(men)(men)可以切(qie)實支持各種(zhong)模型(xing)和新(xin)的(de) ML 架(jia)構。”
總體而言，據(ju)說該芯片在(zai)執行始終開啟感應時消耗(hao)不到 20uA。據(ju) Aspinity 稱，AML100 使工程(cheng)師始終在(zai)線(xian)的系統功耗(hao)降低(di)了 95%。
切割數據和功率
雖(sui)然市場上存在其他模(mo)擬解(jie)決方案(an)，但 Aspinity 聲(sheng)稱(cheng)其方法是新(xin)穎(ying)的(de)——它帶來了可衡量的(de)好處。AML100 據稱(cheng)可將(jiang)數據減少(shao)多達 100 倍，同(tong)時節(jie)省多達 95% 的(de)電(dian)力，可能會對邊(bian)緣計算(suan)和 TinyML 世(shi)界產生顯(xian)著影響。
