隨著人工智能技術飛速發展，云端(duan)(duan)(duan)AI正在往端(duan)(duan)(duan)側(ce)(ce)AI擴(kuo)展演進(jin)(jin)(jin)，AI處理(li)將(jiang)分布在云端(duan)(duan)(duan)和終(zhong)端(duan)(duan)(duan)中進(jin)(jin)(jin)行，云端(duan)(duan)(duan)AI更多負(fu)責大模型(xing)訓練和復雜運算，而端(duan)(duan)(duan)側(ce)(ce)AI將(jiang)進(jin)(jin)(jin)行本地(di)部署進(jin)(jin)(jin)行AI推(tui)理(li)。這(zhe)種云端(duan)(duan)(duan)和終(zhong)端(duan)(duan)(duan)結合(he)的混合(he)AI模式將(jiang)會是AI未來的需求，而對(dui)于端(duan)(duan)(duan)側(ce)(ce)AI技術的要求，也將(jiang)越來越高(gao)。
對目前市面上涌(yong)現的(de)智(zhi)能設備(bei)(bei)創新功能做一個分類，不難看出很多功能點的(de)創新升級(ji)都(dou)離不開音頻處理與交互技(ji)術。作為連接(jie)消(xiao)費者與智(zhi)能設備(bei)(bei)的(de)重要媒(mei)介(jie)，音頻智(zhi)能化(hua)創新的(de)發展也體(ti)現了(le)當前“智(zhi)能泛在化(hua)”的(de)趨勢。
而其中，音頻相關芯片與算法的(de)協同(tong)更新為具備音頻(pin)交互的(de)智能終(zhong)端崛(jue)起提供(gong)了重(zhong)要(yao)助力(li)，音頻(pin)芯片廠商在(zai)此契機下紛紛加(jia)碼(ma)布局(ju)端側AI。
本期《端側AI領袖之聲：中國端側AI企業深度訪談專欄》，物聯網智(zhi)庫邀請(qing)到炬芯科技市場推廣部總監馬大行(xing)，就端側AI產業發(fa)展以及炬芯科技目前的端側AI布(bu)局進行(xing)了(le)深入交(jiao)流。
音頻賽道制高點，打造完整端側AI生態
從(cong)今年各(ge)類智能終端的(de)功能創新不難看出(chu)，很多(duo)功能點(dian)升級都(dou)圍(wei)繞音頻處理與交互技術展(zhan)開。音頻相關芯(xin)片(pian)為智能終端的(de)崛起(qi)提供了堅實(shi)的(de)硬件基礎，在終端市場(chang)需求興起(qi)的(de)背(bei)景下(xia)，音頻芯(xin)片(pian)廠(chang)商紛紛加(jia)碼布局，將芯(xin)片(pian)與端側AI技術加(jia)速融合(he)。
對(dui)于泛(fan)IoT領(ling)域的(de)(de)智(zhi)能(neng)設(she)備，需(xu)要能(neng)夠解(jie)決(jue)應用痛點(dian)的(de)(de)芯片平臺(tai)來(lai)提供基礎支撐。在這些應用里(li)，高算(suan)(suan)(suan)力高成(cheng)本(ben)但功(gong)耗并不低的(de)(de)芯片不是最(zui)好的(de)(de)選擇，端側設(she)備無法不計成(cheng)本(ben)地堆砌算(suan)(suan)(suan)力，高算(suan)(suan)(suan)力也(ye)會(hui)帶來(lai)更大(da)的(de)(de)功(gong)耗，所以必須(xu)找到(dao)算(suan)(suan)(suan)力成(cheng)本(ben)和功(gong)耗之間(jian)的(de)(de)平衡。而且可能(neng)過(guo)去傳統架構(gou)的(de)(de)芯片也(ye)解(jie)決(jue)不了本(ben)地模型(xing)部署的(de)(de)算(suan)(suan)(suan)力和功(gong)耗的(de)(de)需(xu)求(qiu)，因(yin)此在芯片架構(gou)設(she)計上也(ye)需(xu)要求(qiu)變(bian)創新。
這些正好(hao)是(shi)炬(ju)芯科(ke)技的優勢所(suo)在。炬(ju)芯科(ke)技市場推廣部總監馬(ma)大行表示，“炬(ju)芯科(ke)技扎根音(yin)頻賽道，但(dan)我們(men)的視野是(shi)整個(ge)(ge)IoT領域(yu)。炬(ju)芯科(ke)技最核心的優勢在于我們(men)抓(zhua)住了落地端側AI應用的痛點，并(bing)且打造一個(ge)(ge)完整的端側AI生態(tai)系(xi)統，因為如果只有(you)產品沒有(you)配套的整個(ge)(ge)生態(tai)，其實(shi)是(shi)沒有(you)很(hen)好(hao)的辦法落地的。”
炬芯(xin)科(ke)(ke)技的(de)(de)目標(biao)(biao)是為端側AI應(ying)用(yong)打造極致能(neng)效比(bi)的(de)(de)AI算力(li)，在(zai)毫瓦級功耗(hao)下實(shi)現TOPS級別(bie)的(de)(de)AI算力(li)，打造以(yi)滿足IoT設(she)備(bei)對低(di)功耗(hao)、高能(neng)效的(de)(de)需求，并創新(xin)性(xing)地(di)采(cai)用(yong)了基于模數混合SRAM存內計算技術（Mixed-mode SRAM based CIM，簡稱MMSCIM）路徑來(lai)挑戰這(zhe)樣的(de)(de)目標(biao)(biao)。目前炬芯(xin)科(ke)(ke)技最新(xin)產品采(cai)用(yong)三核異構(gou)(gou)架(jia)構(gou)(gou)，即CPU+ DSP+ NPU，雖(sui)然目前國(guo)內也有其(qi)他(ta)廠商在(zai)布局此條路線來(lai)做(zuo)，但(dan)在(zai)商業化(hua)落(luo)地(di)上(shang)并沒有炬芯(xin)科(ke)(ke)技做(zuo)得成(cheng)熟。特別(bie)是炬芯(xin)科(ke)(ke)技將NPU和(he)DSP融合設(she)計形(xing)成(cheng)了炬芯(xin)科(ke)(ke)技“Actions Intelligence NPU（AI-NPU）”架(jia)構(gou)(gou)，并通(tong)過(guo)協同計算，形(xing)成(cheng)一個既高彈性(xing)又高能(neng)效比(bi)的(de)(de)NPU架(jia)構(gou)(gou)。在(zai)這(zhe)種AI-NPU架(jia)構(gou)(gou)中(zhong)MMSCIM支持基礎性(xing)通(tong)用(yong)AI算子，提供低(di)功耗(hao)大(da)算力(li)。
馬大行特別提到，基于(yu)(yu)這樣的一(yi)種架(jia)構，炬芯科技產品的算力(li)(li)(li)能效比在行業內是(shi)相當(dang)突(tu)出的。對于(yu)(yu)端側設備(bei)來說，只談(tan)算力(li)(li)(li)，只談(tan)功(gong)耗(hao)都是(shi)片面的。隨(sui)身類設備(bei)不(bu)可能一(yi)味拔高算力(li)(li)(li)，算力(li)(li)(li)的提升肯定會拉高功(gong)耗(hao)，影(ying)響設備(bei)續航(hang)。解(jie)決這些設備(bei)的智能化(hua)升級(ji)關鍵(jian)在于(yu)(yu)找到算力(li)(li)(li)和功(gong)耗(hao)的平衡點。
能效比(bi)(bi)因此極為(wei)關鍵，以(yi)便攜式音頻和穿(chuan)戴領域為(wei)例，能效比(bi)(bi)的(de)需(xu)求是比(bi)(bi)較高的(de)，因為(wei)這種設備(bei)它都需(xu)要一個很低的(de)功耗(hao)去保證長續航時(shi)間。對于這樣的(de)應用，炬芯科技(ji)通過(guo)創新的(de)三(san)核(he)異(yi)構架(jia)構完(wan)美解決了能效比(bi)(bi)痛點。
基于這些(xie)芯(xin)(xin)片優勢，炬芯(xin)(xin)科技圍繞端側(ce)AI打造了一系(xi)列生(sheng)態配套，用(yong)完整的(de)(de)生(sheng)態去推動端側(ce)AI的(de)(de)落(luo)地(di)。從(cong)技術策略到芯(xin)(xin)片產(chan)(chan)品(pin)，到開發生(sheng)態，到最(zui)終(zhong)應(ying)用(yong)落(luo)地(di)，端側(ce)產(chan)(chan)品(pin)落(luo)地(di)整個環(huan)節里的(de)(de)需求炬芯(xin)(xin)科技都(dou)做了相關布局，產(chan)(chan)品(pin)落(luo)地(di)是最(zui)終(zhong)的(de)(de)導向。今(jin)年產(chan)(chan)業鏈都(dou)在尋找端側(ce)AI應(ying)用(yong)落(luo)地(di)方向，推動端側(ce)產(chan)(chan)品(pin)落(luo)地(di)商(shang)業化才能最(zui)終(zhong)給用(yong)戶(hu)帶(dai)來(lai)價(jia)值。
解決終端設備體驗痛點，技術創新引領端側AI落地
音(yin)(yin)頻(pin)技(ji)(ji)術(shu)是(shi)炬芯(xin)科技(ji)(ji)的最(zui)核心競爭(zheng)力之一，炬芯(xin)科技(ji)(ji)也歷經了音(yin)(yin)頻(pin)市場的一次又一次技(ji)(ji)術(shu)變革。馬(ma)大行(xing)表示，音(yin)(yin)頻(pin)是(shi)很神(shen)奇的一個東西，其需求永遠有挖(wa)掘的空間(jian)。從普通的音(yin)(yin)頻(pin)傳(chuan)輸需求到發燒級別(bie)的高音(yin)(yin)質需求，炬芯(xin)科技(ji)(ji)在多年(nian)的賽(sai)道深耕中，持(chi)續做著不(bu)同市場下(xia)的音(yin)(yin)頻(pin)需求挖(wa)掘，并不(bu)斷(duan)創新來提高音(yin)(yin)頻(pin)質量。
馬(ma)大(da)行指出，在(zai)目前的(de)(de)無(wu)(wu)(wu)線(xian)(xian)音(yin)頻(pin)(pin)階段，如何提(ti)供(gong)高清無(wu)(wu)(wu)損的(de)(de)音(yin)頻(pin)(pin)體驗、如何在(zai)更低(di)延遲(chi)下提(ti)供(gong)更高音(yin)質體驗都是極具考(kao)驗的(de)(de)。錨定無(wu)(wu)(wu)線(xian)(xian)音(yin)頻(pin)(pin)市場的(de)(de)這(zhe)些痛點，炬芯(xin)科技(ji)近些年以藍牙音(yin)頻(pin)(pin)為(wei)代(dai)表(biao)的(de)(de)藍牙音(yin)箱產(chan)品(pin)成(cheng)功(gong)獲得了(le)國際一線(xian)(xian)品(pin)牌（哈曼(man)、SONY、BOSE等(deng)）的(de)(de)青睞，并在(zai)音(yin)頻(pin)(pin)有(you)線(xian)(xian)轉(zhuan)無(wu)(wu)(wu)線(xian)(xian)的(de)(de)過程中抓住了(le)行業(ye)痛點，成(cheng)功(gong)打造了(le)低(di)延遲(chi)高音(yin)質這(zhe)樣的(de)(de)無(wu)(wu)(wu)線(xian)(xian)音(yin)頻(pin)(pin)芯(xin)片(pian)核心優勢，助力無(wu)(wu)(wu)線(xian)(xian)麥克風(feng)、電競(jing)耳(er)機等(deng)更專(zhuan)業(ye)音(yin)頻(pin)(pin)產(chan)品(pin)的(de)(de)商業(ye)成(cheng)功(gong)。在(zai)AI時代(dai)利用獨(du)有(you)的(de)(de)端側AI技(ji)術為(wei)音(yin)頻(pin)(pin)產(chan)品(pin)的(de)(de)革(ge)命注入源源不(bu)斷(duan)的(de)(de)動力，朝(chao)著成(cheng)為(wei)全球視野(ye)的(de)(de)專(zhuan)業(ye)音(yin)頻(pin)(pin)芯(xin)片(pian)品(pin)牌不(bu)斷(duan)前進(jin)。
從聲音(yin)的(de)采(cai)集、聲音(yin)的(de)處(chu)(chu)理到(dao)無(wu)線的(de)傳輸，炬芯科(ke)技(ji)基于二十(shi)多年的(de)音(yin)頻(pin)處(chu)(chu)理技(ji)術積累(lei)不斷創新(xin)，端側(ce)AI時代炬芯科(ke)技(ji)也充分利用(yong)布局已久的(de)端側(ce)AI技(ji)術去驅動這些產品的(de)革(ge)新(xin)，讓AI技(ji)術能(neng)更好地(di)應(ying)用(yong)在端側(ce)音(yin)頻(pin)設備上，并(bing)讓音(yin)頻(pin)應(ying)用(yong)成為(wei)端側(ce)AI率(lv)先落地(di)的(de)重要支點。
炬(ju)芯科技(ji)提出(chu)的“Actions Intelligence”正是(shi)針對電池驅動的端側AI落地提出(chu)的戰略，致力于為(wei)低功耗(hao)AIoT裝置(zhi)打造在(zai)10mW-100mW之間的功耗(hao)下提供0.1-1TOPS的通用AI算(suan)力（能(neng)效比為(wei)10TOPS/W~100TOPS/W），在(zai)低功耗(hao)的條件下提供更大的AI算(suan)力。
在此前的文章中物聯網智庫曾表示“隨著(zhu)端側(ce)AI應用普及，存(cun)(cun)(cun)算(suan)一體化被重視起來(lai)，根據(ju)不(bu)同側(ce)重還能細分到近存(cun)(cun)(cun)計(ji)算(suan)、存(cun)(cun)(cun)內處(chu)理(li)和存(cun)(cun)(cun)內計(ji)算(suan)。對數據(ju)處(chu)理(li)速(su)度(du)和存(cun)(cun)(cun)儲效率的(de)要求不(bu)斷(duan)提(ti)高，傳統與計(ji)算(suan)分離的(de)存(cun)(cun)(cun)儲解決(jue)(jue)方案(an)日后或許承(cheng)載不(bu)了(le)端側(ce)AI對實(shi)時(shi)性和能效的(de)需求。”值得(de)一提(ti)的(de)是炬芯科技(ji)(ji)創(chuang)新采(cai)用了(le)基于模數混合(he)SRAM存(cun)(cun)(cun)內計(ji)算(suan)技(ji)(ji)術，很好的(de)解決(jue)(jue)了(le)傳統馮·諾依曼架(jia)構存(cun)(cun)(cun)在的(de)“存(cun)(cun)(cun)儲墻(qiang)”、“功耗墻(qiang)”等問題，滿足了(le)端側(ce)AI應用對于實(shi)時(shi)性和能效比的(de)需求。
基于模數混合SRAM的(de)存(cun)內計算在保證(zheng)能效比的(de)同(tong)時，還能保證(zheng)精度(du)和量產(chan)一(yi)致性。對追(zhui)求(qiu)極致能效比的(de)低功(gong)耗(hao)智能設備(bei)來說，這(zhe)一(yi)創新(xin)設計進一(yi)步挖(wa)掘了每(mei)毫瓦功(gong)耗(hao)下的(de)AI能力，無疑將大(da)力推(tui)動(dong)端(duan)側(ce)AI音頻(pin)設備(bei)的(de)落地。據悉(xi)，炬(ju)芯科技最(zui)新(xin)一(yi)代(dai)端(duan)側(ce)AI音頻(pin)芯片ATS323X系列已成功(gong)在專(zhuan)業(ye)音頻(pin)品(pin)牌猛瑪(MOMA)推(tui)出(chu)的(de)旗艦級無線監聽麥克風(feng)Lark Max2中落地應用(yong)(yong)，該產(chan)品(pin)一(yi)經推(tui)出(chu)即引領(ling)無線麥克風(feng)市場浪潮，為用(yong)(yong)戶(hu)帶來更專(zhuan)業(ye)的(de)創作體驗(yan)。
馬大行(xing)補充道，炬(ju)芯(xin)科技會持(chi)續深(shen)耕音頻(pin)領域并不斷筑牢自己在該領域里的(de)(de)技術壁壘，用創新的(de)(de)技術驅動(dong)并引領終(zhong)端產品的(de)(de)智能(neng)變革(ge)。同時炬(ju)芯(xin)科技也會從音頻(pin)的(de)(de)制高(gao)點出發，向外(wai)延(yan)伸自己的(de)(de)商業版圖，以全球(qiu)的(de)(de)視(shi)野覆蓋AIoT領域萬億增量市場(chang)。
寫(xie)在(zai)最后
展(zhan)(zhan)(zhan)望端側(ce)AI發展(zhan)(zhan)(zhan)，端側(ce)AI市(shi)場的(de)爆發式一定是(shi)毋庸置(zhi)疑的(de)，隨著(zhu)芯(xin)片技(ji)術不(bu)斷提升，以及應用市(shi)場的(de)拓展(zhan)(zhan)(zhan)，一些有價值(zhi)的(de)產品會快速進(jin)入到落地(di)階段。炬芯(xin)科技(ji)也將持續推進(jin)“Actions Intelligence”端側(ce)AI戰略，打造完整的(de)生態(tai)來推動AI應用落地(di)。
