數字經濟時代的關鍵資源是數據、算力和算法,其中數據是新生產資料,算力是新生產力,算(suan)(suan)(suan)法是新生產關系,這三者構成了數(shu)字經濟時代最基(ji)本(ben)的生產基(ji)石。其中,算(suan)(suan)(suan)力(li)通(tong)(tong)俗來說,就(jiu)是計(ji)算(suan)(suan)(suan)能(neng)力(li),指的是數(shu)據的處(chu)理能(neng)力(li),通(tong)(tong)常采(cai)用TOPS(Tera Operations Per Second)作為單位,1TOPS代表處(chu)理器每秒(miao)鐘可進行一(yi)萬億次(ci)操作。小至手機(ji)、筆記本(ben)電腦(nao)、大(da)到超級(ji)計(ji)算(suan)(suan)(suan)機(ji),算(suan)(suan)(suan)力(li)存(cun)在于各種(zhong)智(zhi)能(neng)硬件設備中,沒有算(suan)(suan)(suan)力(li)就(jiu)沒有各種(zhong)軟硬件的正常應用。
自2023年3月(yue),OpenAI正式(shi)發(fa)布目(mu)前最(zui)強大的多模態預訓練大模型GPT-4以來,國內外互聯網和(he)云服(fu)務大廠、AI企業(ye)、行業(ye)頭(tou)部公司、高(gao)校(xiao)及科研機構、大數(shu)據及算(suan)力(li)提供商等紛紛跟進,中國迎(ying)來“百模大戰”,并帶動了(le)龐(pang)大的算(suan)力(li)需求。除了(le)AIGC爆(bao)發(fa)外,其它(ta)數(shu)字經濟因素,如工業(ye)、金融、通(tong)信、教育、醫療(liao)等行業(ye)的數(shu)字化(hua)轉型、也將(jiang)推動算(suan)力(li)需求在未來幾年快(kuai)速增長。
“新摩爾(er)定律”指出,未來每18個月,人類新增(zeng)的數(shu)(shu)據就將(jiang)是計(ji)算(suan)機有(you)歷史以來的數(shu)(shu)據量總(zong)和,呈現爆炸式增(zeng)長(chang)的長(chang)期趨(qu)勢。而超大規模的數(shu)(shu)據量,對算(suan)力(li)的需求也將(jiang)呈現出前所未有(you)的高(gao)度和強度。算(suan)力(li),將(jiang)成(cheng)為支(zhi)撐數(shu)(shu)字經濟持續向縱深發展(zhan)的重要動力(li)。
根據中國信(xin)通院報告(gao),2022年中國總(zong)體算(suan)力規(gui)(gui)模(mo)約(yue)為(wei)302 EFLOPS(EFLOPS=10^18次浮點運算(suan)/秒),智(zhi)能算(suan)力規(gui)(gui)模(mo)約(yue)為(wei)178.5 EFLOPS,智(zhi)能算(suan)力占比約(yue)59.1%。IDC預測,2021-2026年中國智(zhi)能算(suan)力規(gui)(gui)模(mo)年復(fu)合增(zeng)長率約(yue)為(wei)50%,通用算(suan)力年復(fu)合增(zeng)長率約(yue)為(wei)18%。因(yin)此(ci),預計至2026年,我國總(zong)體算(suan)力規(gui)(gui)模(mo)將高達約(yue)1130 EFLOPS。
隨著算力慢慢成為發展數字經濟重要的生產力組成,基礎算力、智能算力以及超算算力等各種算力集成呈現多樣化發展態勢。從模組行業來看,集成了CPU/GPU/ASIC/FPGA/NPU等多種計算單元的算力模組,基于其通用計算與異構計算相結合的優勢,可覆蓋不同等級的AI算力區間,充分匹配端側計算和邊緣計算需求。隨著應用場景不斷擴展,算力模組及內置算力模組的各類型消費及物聯網終端將成為算力新載體。
算力模組是面向各類對CPU/GPU/AI算力有強需求的專用場景開發的智能模組產品。它是智能模組(通信+智能操作系統+強算力支撐)的一個子集,基于SoC芯片開發而成,集成和融合了多種計算單元(CPU、GPU、ASIC、FPGA、NPU等),既有通用計算單元,也有高性能的專用計算單元,在減小尺寸、降低成本、降低功耗、易于開發等方面有突出優勢,可提供不同等級的硬件算力,并根據場景需求,匹配5G/Wi-Fi/千兆以太網等各類通信方式。
回顧模(mo)(mo)組的發(fa)展歷程(cheng),標準通信模(mo)(mo)組從1.0時代的純(chun)通信能(neng)(neng)力(li),到2.0時代利用Open CPU技(ji)術替代外部(bu)MCU,實(shi)現一些簡單的邏輯控制能(neng)(neng)力(li),到3.0時代的同時具備(bei)4G/5G高速通信能(neng)(neng)力(li)以及內置智(zhi)能(neng)(neng)化(hua)操作系統和豐富的外設接口。
復雜(za)系(xi)(xi)統的(de)智能模組(zu)(zu)經歷了史無(wu)前例(li)的(de)快速發展,大大加速了傳統行業的(de)信息化和智能化的(de)改造進程(cheng)。然(ran)而,智能模組(zu)(zu)由于(yu)(yu)系(xi)(xi)統復雜(za)(同時(shi)支持Android、Linux以及HarmonyOS),且(qie)同時(shi)支持5G、Wi-Fi、BT、以太(tai)網、工業PCIE等(deng)各類(lei)通(tong)信方式,對于(yu)(yu)專用(yong)場景(jing)下的(de)算(suan)力(li)需(xu)求,迫切(qie)需(xu)要專用(yong)的(de)硬件(jian)算(suan)力(li)模組(zu)(zu)以及輕量化的(de)算(suan)力(li)系(xi)(xi)統支持行業的(de)迅(xun)速發展。
同時,2020年全球疫情的爆發,使得在線經濟、遠程辦公、元宇宙、AI+千(qian)行百業迎(ying)來了(le)高(gao)速發(fa)展的(de)窗(chuang)口期(qi),智能、高(gao)效(xiao)的(de)生(sheng)產力工具正在(zai)走入千(qian)行百業。More inteligent、More efficient成為數字(zi)化社會的(de)代(dai)名詞(ci)。如(ru)何(he)提(ti)高(gao)新生(sheng)產力工具的(de)效(xiao)率,如(ru)何(he)加(jia)速新應(ying)用場景下(xia)商業化步伐,如(ru)何(he)為新數字(zi)經濟的(de)發(fa)展插(cha)上騰飛(fei)的(de)翅膀,重新被定義的(de)算力模組在(zai)市場的(de)強烈需求下(xia)應(ying)運而(er)生(sheng)。
在要素組成方面,作(zuo)為新一代基于(yu)ARM平(ping)臺的(de)輕(qing)量化(hua)算(suan)力模組,其包括專用場景可(ke)(ke)(ke)提(ti)供動(dong)態(tai)高效的(de)算(suan)法支撐、可(ke)(ke)(ke)同時支持不同類型的(de)通信方式、可(ke)(ke)(ke)編譯(yi)的(de)輕(qing)量化(hua)操作(zuo)系統以(yi)及適應苛刻工業(ye)標準的(de)硬件(jian)性(xing)能(neng)等。
在與蜂窩通信的解耦方面,根據(ju)不(bu)同場景配置不(bu)同的(de)(de)通(tong)(tong)信方(fang)式,是算(suan)力模組的(de)(de)一(yi)個重要(yao)特征。隨著(zhu)以(yi)ARM為(wei)基礎(chu)的(de)(de)復雜系(xi)統的(de)(de)硬件(jian)產(chan)品(pin)(pin)飛(fei)速(su)迭(die)代、半導(dao)體(ti)工藝的(de)(de)迅速(su)發展以(yi)及產(chan)業(ye)分工細(xi)化程度(du)越來越高,如何在細(xi)分領域提供(gong)高性價比(bi)、高契合(he)度(du)的(de)(de)產(chan)品(pin)(pin)和(he)解(jie)決方(fang)案(an),成(cheng)為(wei)擺在業(ye)界面(mian)前,迫(po)切需(xu)要(yao)解(jie)決的(de)(de)問題。解(jie)耦(ou)蜂窩(wo)通(tong)(tong)信不(bu)是弱化其通(tong)(tong)信功能,而是根據(ju)不(bu)同場景需(xu)求,提供(gong)更高性價比(bi)、更高契合(he)度(du)的(de)(de)產(chan)品(pin)(pin)。
在匹配智能化核心應用場景方面,算力模組呈現出強(qiang)大(da)的適配性:
固定的邊緣計算(suan)設備(bei),高(gao)算(suan)力模組搭(da)配千兆以太網(wang)的鏈接方式成為主要的系統(tong)架構;
智能汽車輔(fu)助駕駛領域,端側的超強算力(li)模組(zu)搭配(pei)中速(su)率(lv)Cat.4通(tong)信模組(zu);
而在智能汽車的智慧座(zuo)艙領域,多屏多音響的處(chu)理需(xu)(xu)求(qiu)和實時(shi)的在線高清視頻(pin)的需(xu)(xu)求(qiu),甚至(zhi)需(xu)(xu)要一個高算(suan)力模組搭配2-3個5G無線通(tong)信模組;
專業的游戲玩家將(jiang)海量(liang)的游戲計算(suan)(suan)(suan)放置到由算(suan)(suan)(suan)力(li)模(mo)組構建的云端計算(suan)(suan)(suan),弱化對端側設(she)備的算(suan)(suan)(suan)力(li)需求;
工業互聯網領域(yu),海量的機器數(shu)據和(he)高(gao)(gao)時(shi)效性的無線數(shu)據傳輸,正是高(gao)(gao)算(suan)力模(mo)組(zu)(zu)+5G R16高(gao)(gao)速傳輸模(mo)組(zu)(zu)的用武之地(di);
全屋智(zhi)能(neng)時(shi)(shi)代到來(lai)之時(shi)(shi),以家庭設備和(he)家庭成員為單(dan)位(wei)的智(zhi)能(neng)存儲、智(zhi)能(neng)計算和(he)智(zhi)能(neng)傳(chuan)(chuan)輸,雙算力模組+強Wi-Fi 6室(shi)內傳(chuan)(chuan)輸+室(shi)外5G ODU傳(chuan)(chuan)輸將真(zhen)正(zheng)做(zuo)到人(ren)與(yu)物的智(zhi)能(neng)化連接,并逐步成為運營商智(zhi)能(neng)化產品(pin)方案的最優選擇。
在算力逐漸成為數字化社會的重要生產力,以及東數西算發展提速等大背景下,算力模組成為智能模組跟隨產業需求進行功能迭代的重要分支。物聯網眾多下游領域已不再簡單停留在實現數傳的單一需求,而是越來越向智能化和算力化升級。在arm架構服務器、AI零售、云游戲、數字人、直播、AR/VR、工業互聯網、邊緣側AI設備等領域,算力模組有廣闊應用空間。目前,已有多家頭部模組企業推出算力模組產品,競逐這一重要新興市場。算力模組正處于高速發展的早期階段。
廣和通
廣和通(tong)2022年(nian)開始投資“算力模(mo)組(zu)開發項目”,啟動在智能計算領域的產(chan)品布局(ju)、業(ye)務布局(ju)。
2023年之前,廣和(he)通帶(dai)(dai)算力的(de)模(mo)組,主(zhu)要產品形態是SoC智(zhi)能(neng)模(mo)組,在(zai)支(zhi)(zhi)付和(he)車(che)載領域應用(yong)較多(duo)。在(zai)支(zhi)(zhi)付領域的(de)應用(yong)已較為成熟,國內車(che)載以新能(neng)源車(che)為主(zhu),SoC模(mo)組的(de)滲(shen)透(tou)率也比(bi)較高。智(zhi)能(neng)模(mo)組其他的(de)行業(ye)拓展包(bao)括(kuo)各類帶(dai)(dai)邊緣(yuan)算力終端設備(bei)、機器人、IPC安防、工業(ye)檢測和(he)控制等行業(ye)。
2023年,廣和通推出12TOPS的5G高算力智能模組SC171來全面滿足機器人的各種AI需求,其基(ji)于高(gao)(gao)通QCM6490平(ping)臺設計,采用8核高(gao)(gao)性能(neng)(neng)(neng)處(chu)理器,內置VDSP,集成高(gao)(gao)性能(neng)(neng)(neng)圖形引擎,可以(yi)流暢播(bo)放4K視頻。除此之外(wai),還(huan)專(zhuan)門(men)成立了(le)智(zhi)能(neng)(neng)(neng)計算產品(pin)線,以(yi)AI賦能(neng)(neng)(neng)下(xia)游行業的智(zhi)能(neng)(neng)(neng)化應用。
公司以智能割草機細分行業為突破點,聚焦于“感知機構”和“決策機構”相關技術的研發,提供雙目感知定位模組、決策算法和集成通信能力的邊緣算力模組,將人工智能、自動(dong)駕駛、機(ji)(ji)器視覺、高精差分(fen)GPS定(ding)位(RTK)等技術高度集(ji)成,為智能割(ge)草機(ji)(ji)器人行(xing)業提供(gong)全棧式解(jie)決方案,實現割(ge)草機(ji)(ji)器人的(de)環境感知、定(ding)位、地圖構建、路徑規劃、避障、導航(hang)、應用等全方位功(gong)能。
美格智能
2022年3月,美格智(zhi)能前瞻性提出“算(suan)(suan)力(li)(li)模(mo)(mo)組”概(gai)念和“無算(suan)(suan)力(li)(li)、不智(zhi)能”的(de)產(chan)品(pin)迭(die)代理(li)念,并在(zai)(zai)公(gong)司內部單(dan)獨建立(li)算(suan)(suan)力(li)(li)模(mo)(mo)組產(chan)品(pin)線,專注于拓展模(mo)(mo)組產(chan)品(pin)的(de)計(ji)算(suan)(suan)能力(li)(li)應用以及下游領(ling)域的(de)擴(kuo)展,深入挖掘如何在(zai)(zai)模(mo)(mo)組形態(tai)上充分發(fa)揮CPU/GPU/AI等計(ji)算(suan)(suan)單(dan)元的(de)性能,在(zai)(zai)算(suan)(suan)力(li)(li)模(mo)(mo)組的(de)產(chan)品(pin)規劃、設(she)計(ji)開(kai)發(fa)、資質認證(zheng)、應用領(ling)域等方面持(chi)續高強(qiang)度投入。
隨著2023年以來,AIGC和大模型的市場爆發,大數據的處理和推理形成云端處理和邊緣側/終端側處理相結合的趨勢。美格智能持續關注技術和產業趨勢,堅持在智能模組和高算力模組領域高強度投入。當前,公司算力模組產品已可覆蓋從0.2TOPS到近48TOPS的AI算力區間,其中,高算力模組產品已經可以運行類似于Stable Diffusion、Llama 2等復雜大模型,為(wei)在各(ge)種不同類型的(de)終(zhong)端(duan)產品的(de)端(duan)側執行生成式(shi)AI的(de)各(ge)類應用,提供了標準的(de)軟硬件(jian)環境;未來算(suan)(suan)力性能(neng)將(jiang)持續增強,可更充分匹配(pei)端(duan)側計算(suan)(suan)和邊緣計算(suan)(suan)需(xu)求,應用場(chang)景不斷擴(kuo)展。
目(mu)前,算力(li)(li)模組已經(jing)成為美(mei)格智(zhi)能(neng)極具特(te)色的(de)標(biao)簽產品,與智(zhi)能(neng)座(zuo)艙、新零售、工業(ye)互聯等領域的(de)定(ding)(ding)制(zhi)化解(jie)決方(fang)案結合,智(zhi)能(neng)化和定(ding)(ding)制(zhi)化的(de)特(te)性使(shi)得(de)公司(si)的(de)差(cha)異化競爭能(neng)力(li)(li)進一步(bu)鞏固。
移遠通信
2023年以來(lai),移遠通信顯著加大了對(dui)算力(li)(li)(li)模組(zu)領域(yu)的投入(ru)力(li)(li)(li)度(du),頻頻推出新的算力(li)(li)(li)模組(zu)產(chan)品:
2023年3月,移遠通信宣布,公司5G模(mo)組與英偉達Jetson AGX Orin平(ping)臺(tai)已成功完(wan)成聯調,實現5G通信+AI邊緣(yuan)計算能力。
2023年11月,移遠(yuan)通信相繼在投資者互(hu)動平臺(tai)表示(shi),在智(zhi)能(neng)模組領域,高算(suan)力(li)正(zheng)在成為行業新標桿,公(gong)司基于(yu)(yu)不同平臺(tai)已開發(fa)出多(duo)(duo)款智(zhi)能(neng)算(suan)力(li)模組,適(shi)用于(yu)(yu)工業質檢、智(zhi)能(neng)相機、戶外機器(qi)人、邊緣計算(suan)盒(he)子(zi)、智(zhi)慧(hui)零售等多(duo)(duo)個領域。
伴隨邊緣(yuan)計算能力的(de)(de)逐步(bu)升級,搭(da)配(pei)移遠算力模組的(de)(de)應(ying)用終端(duan)將(jiang)能夠實時處理數(shu)據(ju)并做(zuo)出更快的(de)(de)數(shu)據(ju)驅動(dong)決策,同時模組還具有低功耗、高速連接和先進(jin)的(de)(de)安全性等(deng)多重優勢。
2024年3月,移遠通信進一步表示,公司的智能算力模組已可應用于AI服務器上,助力客戶推出定制化的SoC陣列服務器產品,可對CPU、GPU、NPU資源進行集中管理與分配實現算力共享。公司目前已為國內頭部的互聯網平臺供應算力模組并已實現量產。
日海智能
隨著ChatGPT語言模型的火爆,日海智能也推出了高算力智能模組產品,部分產品可以提供10-15TOPS左右的算力,助力AIoT在各行各業的發展。公司智能模組產品采用高通8核處理器,高度集成無線蜂窩通信、短距離通信、多衛星接收機功能,全面覆蓋各類網絡制式,可廣泛應用于智能支付、廣告傳媒、汽車、智慧醫療等設備與行業中。
目前,算力行業面臨的主要問題是技術瓶頸。雖然算力技術在不斷創新,但是在處理大數據和復雜模型的情況下,仍然面臨著計算速度慢、能耗高等問題。對于算力模組領域同樣如是。因此,需要模組廠商聯合芯片廠商進(jin)一步加強研發,推廣新的、能(neng)提高算力的效率和性能(neng)的技術。
與此同時,隨著算力技術的應用范圍不斷擴大,安全性和可靠性問題也日益凸顯。在算(suan)力行業中(zhong),數(shu)據安(an)(an)全和算(suan)力可(ke)靠性(xing)(xing)是至(zhi)關重要的。因此,算(suan)力模(mo)組廠商也需(xu)要進一步加強算(suan)力技術的安(an)(an)全性(xing)(xing)和可(ke)靠性(xing)(xing),保障(zhang)數(shu)據安(an)(an)全和計算(suan)能力可(ke)靠。
此外,目前算力產業鏈還不夠完善,各個環節(jie)之間缺乏協(xie)(xie)同(tong)和配合(he),導(dao)致(zhi)算(suan)力(li)資源的浪費(fei)和利用率的低(di)下(xia)。算(suan)力(li)模組廠商作(zuo)為算(suan)力(li)產(chan)(chan)業(ye)鏈的重要(yao)一環,需要(yao)進一步(bu)完善與上下(xia)游(you)合(he)作(zuo)伙(huo)伴的協(xie)(xie)同(tong)配合(he),共同(tong)建立行業(ye)標準和規范,促進產(chan)(chan)業(ye)協(xie)(xie)同(tong)和資源整合(he)。
隨著物聯網持續發展,對于模組及終端產品的智能化和高算力的需求將更為明顯,在蜂窩連接基礎上進一步提供智能化操作系統和AI算力的智能模組、AI算力模組,在整體模組行業中的滲透率將進一步提升。一方面,隨著邊緣域計算的發展,算力模組的重要性逐漸凸顯。目前數據處理正在逐漸從云端向邊側、端側擴散,數據就近處理的場景不斷涌現。終端側算力需求的激增和邊緣計算場景的極大豐富,將帶動高算力模組品類高速發展。
另一方面,算力模組能讓終端開發者基于標準化的模組完成低成本、短流程的產品設計和制造,為海量場景提(ti)供穩定的(de)通信能(neng)力和邊緣算力,降低(di)大模型的(de)使(shi)用(yong)成本(ben)。