數字經濟時代的關鍵資源是數據、算力和算法,其中數據是新生產資料,算力是新生產力,算(suan)法是新生(sheng)產(chan)關系(xi),這三者構成了數(shu)字經濟時代(dai)最基本的生(sheng)產(chan)基石。其(qi)中(zhong),算(suan)力(li)(li)通(tong)俗(su)來說(shuo),就(jiu)是計算(suan)能力(li)(li),指的是數(shu)據的處(chu)理(li)能力(li)(li),通(tong)常采用(yong)TOPS(Tera Operations Per Second)作(zuo)為單(dan)位(wei),1TOPS代(dai)表處(chu)理(li)器每秒鐘可進行一萬億次(ci)操作(zuo)。小至(zhi)手機、筆記本電(dian)腦、大到(dao)超級計算(suan)機,算(suan)力(li)(li)存在(zai)于各種智(zhi)能硬件設(she)備中(zhong),沒有算(suan)力(li)(li)就(jiu)沒有各種軟硬件的正常應用(yong)。
自2023年(nian)3月,OpenAI正式(shi)發布(bu)目前最(zui)強大(da)的多模態預訓練大(da)模型(xing)GPT-4以來(lai)(lai)(lai),國(guo)內外互聯網和云服務大(da)廠、AI企業、行業頭部(bu)公司、高(gao)校及(ji)科研機構、大(da)數(shu)據及(ji)算(suan)(suan)力(li)提供(gong)商等紛紛跟進,中國(guo)迎來(lai)(lai)(lai)“百模大(da)戰”,并帶動了龐大(da)的算(suan)(suan)力(li)需求。除了AIGC爆發外,其它數(shu)字經(jing)濟因素,如工業、金融、通信、教育、醫療等行業的數(shu)字化轉型(xing)、也將推動算(suan)(suan)力(li)需求在未來(lai)(lai)(lai)幾年(nian)快速增長(chang)。
“新摩爾定律”指出,未來每18個月,人(ren)類新增的(de)數(shu)據(ju)(ju)就將是計算機有歷(li)史(shi)以來的(de)數(shu)據(ju)(ju)量總和(he)(he),呈現爆炸式增長(chang)的(de)長(chang)期(qi)趨勢。而超大規模的(de)數(shu)據(ju)(ju)量,對算力的(de)需求也將呈現出前所未有的(de)高度和(he)(he)強度。算力,將成為(wei)支(zhi)撐數(shu)字經濟持續向縱深(shen)發展的(de)重要動力。
根據中(zhong)國信(xin)通院報告(gao),2022年(nian)中(zhong)國總體算(suan)(suan)力規模約(yue)(yue)為(wei)302 EFLOPS(EFLOPS=10^18次浮點運(yun)算(suan)(suan)/秒),智能(neng)算(suan)(suan)力規模約(yue)(yue)為(wei)178.5 EFLOPS,智能(neng)算(suan)(suan)力占比約(yue)(yue)59.1%。IDC預測,2021-2026年(nian)中(zhong)國智能(neng)算(suan)(suan)力規模年(nian)復(fu)合增長(chang)率約(yue)(yue)為(wei)50%,通用(yong)算(suan)(suan)力年(nian)復(fu)合增長(chang)率約(yue)(yue)為(wei)18%。因此,預計至2026年(nian),我國總體算(suan)(suan)力規模將高達約(yue)(yue)1130 EFLOPS。
隨著算力慢慢成為發展數字經濟重要的生產力組成,基礎算力、智能算力以及超算算力等各種算力集成呈現多樣化發展態勢。從模組行業來看,集成了CPU/GPU/ASIC/FPGA/NPU等多種計算單元的算力模組,基于其通用計算與異構計算相結合的優勢,可覆蓋不同等級的AI算力區間,充分匹配端側計算和邊緣計算需求。隨著應用場景不斷擴展,算力模組及內置算力模組的各類型消費及物聯網終端將成為算力新載體。
算力模組是面向各類對CPU/GPU/AI算力有強需求的專用場景開發的智能模組產品。它是智能模組(通信+智能操作系統+強算力支撐)的一個子集,基于SoC芯片開發而成,集成和融合了多種計算單元(CPU、GPU、ASIC、FPGA、NPU等),既有通用計算單元,也有高性能的專用計算單元,在減小尺寸、降低成本、降低功耗、易于開發等方面有突出優勢,可提供不同等級的硬件算力,并根據場景需求,匹配5G/Wi-Fi/千兆以太網等各類通信方式。
回(hui)顧模(mo)組(zu)的發展歷程,標準(zhun)通信模(mo)組(zu)從1.0時(shi)代(dai)的純通信能(neng)(neng)力(li),到2.0時(shi)代(dai)利用Open CPU技(ji)術替代(dai)外部MCU,實現一些簡單的邏(luo)輯控制能(neng)(neng)力(li),到3.0時(shi)代(dai)的同時(shi)具備4G/5G高速通信能(neng)(neng)力(li)以及內置智能(neng)(neng)化操作(zuo)系統和豐富的外設接口。
復雜系統(tong)(tong)的(de)智能(neng)模(mo)(mo)組(zu)(zu)經歷了史(shi)無前例的(de)快速(su)發展,大大加(jia)速(su)了傳統(tong)(tong)行業(ye)的(de)信息化(hua)和智能(neng)化(hua)的(de)改(gai)造進程。然(ran)而,智能(neng)模(mo)(mo)組(zu)(zu)由于(yu)系統(tong)(tong)復雜(同時支持Android、Linux以及HarmonyOS),且同時支持5G、Wi-Fi、BT、以太網(wang)、工業(ye)PCIE等各(ge)類通(tong)信方(fang)式(shi),對于(yu)專用場景(jing)下(xia)的(de)算(suan)(suan)力需(xu)求,迫(po)切需(xu)要專用的(de)硬(ying)件算(suan)(suan)力模(mo)(mo)組(zu)(zu)以及輕量化(hua)的(de)算(suan)(suan)力系統(tong)(tong)支持行業(ye)的(de)迅(xun)速(su)發展。
同時,2020年全球疫情的爆發,使得在線經濟、遠程辦公、元宇宙、AI+千(qian)行百業(ye)迎來(lai)了高速發展的(de)(de)(de)窗口期,智能、高效(xiao)的(de)(de)(de)生(sheng)產力工具正(zheng)在走(zou)入千(qian)行百業(ye)。More inteligent、More efficient成為數(shu)字化(hua)(hua)社會的(de)(de)(de)代名詞。如何提高新生(sheng)產力工具的(de)(de)(de)效(xiao)率,如何加(jia)速新應用場(chang)景下商業(ye)化(hua)(hua)步伐(fa),如何為新數(shu)字經濟的(de)(de)(de)發展插上騰飛的(de)(de)(de)翅膀(bang),重新被定義的(de)(de)(de)算力模組在市場(chang)的(de)(de)(de)強烈需求(qiu)下應運而生(sheng)。
在要素組成方面,作為新一代基(ji)于ARM平臺的輕量(liang)化算力模組(zu),其包括專用場景可(ke)提供動(dong)態高效的算法支撐、可(ke)同(tong)時(shi)支持不同(tong)類型的通信方式、可(ke)編譯的輕量(liang)化操(cao)作系統以及適應苛刻工業標準(zhun)的硬件(jian)性能等。
在與蜂窩通信的解耦方面,根(gen)據不(bu)同(tong)場景(jing)配置不(bu)同(tong)的(de)通信方式,是算力模組的(de)一個重要(yao)特征。隨著以ARM為基礎的(de)復雜系統的(de)硬件(jian)產(chan)品飛(fei)速(su)(su)迭代、半(ban)導(dao)體(ti)工藝的(de)迅(xun)速(su)(su)發展以及(ji)產(chan)業(ye)分工細化程(cheng)度(du)越(yue)來越(yue)高,如何在細分領(ling)域提(ti)供高性價比、高契合度(du)的(de)產(chan)品和解(jie)決方案,成為擺在業(ye)界面前(qian),迫切需(xu)要(yao)解(jie)決的(de)問題。解(jie)耦蜂窩通信不(bu)是弱化其(qi)通信功能,而是根(gen)據不(bu)同(tong)場景(jing)需(xu)求(qiu),提(ti)供更高性價比、更高契合度(du)的(de)產(chan)品。
在匹配智能化核心應用場景方面,算(suan)力模組呈現出(chu)強大的適配(pei)性(xing):
固(gu)定的邊(bian)緣(yuan)計算設備,高算力模(mo)組搭配千兆以太(tai)網的鏈接方式成為主要的系統架構;
智能汽車輔助駕駛領域,端側的超強算力模組(zu)搭配中速率Cat.4通信模組(zu);
而在智能汽車的(de)智慧座(zuo)艙領域,多屏(ping)多音響的(de)處理需(xu)求(qiu)和(he)實時的(de)在線(xian)高(gao)清視頻(pin)的(de)需(xu)求(qiu),甚至需(xu)要(yao)一(yi)個(ge)高(gao)算力模組(zu)搭配2-3個(ge)5G無線(xian)通(tong)信模組(zu);
專業的(de)(de)(de)游(you)戲玩家將海量的(de)(de)(de)游(you)戲計(ji)算放置(zhi)到(dao)由算力(li)模(mo)組構建的(de)(de)(de)云端(duan)計(ji)算,弱化對端(duan)側設(she)備的(de)(de)(de)算力(li)需求;
工業互聯網領域,海量(liang)的(de)機器數(shu)據和高(gao)時效性(xing)的(de)無(wu)線(xian)數(shu)據傳(chuan)(chuan)輸,正(zheng)是高(gao)算力(li)模組(zu)+5G R16高(gao)速傳(chuan)(chuan)輸模組(zu)的(de)用武之地;
全(quan)屋智能(neng)(neng)時代到(dao)來(lai)之時,以(yi)家(jia)庭(ting)設備和家(jia)庭(ting)成(cheng)員為單位(wei)的(de)智能(neng)(neng)存儲、智能(neng)(neng)計(ji)算和智能(neng)(neng)傳(chuan)輸(shu),雙(shuang)算力模組+強Wi-Fi 6室內(nei)傳(chuan)輸(shu)+室外5G ODU傳(chuan)輸(shu)將真正做到(dao)人與物(wu)的(de)智能(neng)(neng)化連(lian)接,并逐步成(cheng)為運營(ying)商智能(neng)(neng)化產品(pin)方案(an)的(de)最優選(xuan)擇。
在算力逐漸成為數字化社會的重要生產力,以及東數西算發展提速等大背景下,算力模組成為智能模組跟隨產業需求進行功能迭代的重要分支。物聯網眾多下游領域已不再簡單停留在實現數傳的單一需求,而是越來越向智能化和算力化升級。在arm架構服務器、AI零售、云游戲、數字人、直播、AR/VR、工業互聯網、邊緣側AI設備等領域,算力模組有廣闊應用空間。目前,已有多家頭部模組企業推出算力模組產品,競逐這一重要新興市場。算力模組正處于高速發展的早期階段。
廣和通
廣和通2022年開始投資(zi)“算(suan)力(li)模組開發項(xiang)目”,啟(qi)動在智(zhi)能計算(suan)領域的(de)產品布局、業務布局。
2023年之前,廣和通帶(dai)算力(li)的模組,主(zhu)要產品形態(tai)是SoC智(zhi)(zhi)能(neng)模組,在支付和車(che)載(zai)領域應(ying)用較多。在支付領域的應(ying)用已較為成熟,國內車(che)載(zai)以(yi)新能(neng)源車(che)為主(zhu),SoC模組的滲透率也比較高。智(zhi)(zhi)能(neng)模組其他的行(xing)(xing)業拓展包括各(ge)類帶(dai)邊緣算力(li)終端設備、機(ji)器人、IPC安防、工業檢測和控(kong)制等行(xing)(xing)業。
2023年,廣和通推出12TOPS的5G高算力智能模組SC171來全面滿足機器人的各種AI需求,其(qi)基于(yu)高通(tong)QCM6490平(ping)臺設計(ji),采用(yong)8核高性(xing)能(neng)(neng)處理器(qi),內置VDSP,集成高性(xing)能(neng)(neng)圖(tu)形引擎,可以流(liu)暢播放4K視(shi)頻。除此之外,還專門成立了(le)智能(neng)(neng)計(ji)算(suan)產品線,以AI賦能(neng)(neng)下游行業的智能(neng)(neng)化應用(yong)。
公司以智能割草機細分行業為突破點,聚焦于“感知機構”和“決策機構”相關技術的研發,提供雙目感知定位模組、決策算法和集成通信能力的邊緣算力模組,將人工智能、自動(dong)駕駛、機(ji)器(qi)視覺、高(gao)精差(cha)分GPS定(ding)位(wei)(RTK)等技術高(gao)度集成,為(wei)智能割草(cao)機(ji)器(qi)人行業(ye)提供全棧式解決方(fang)案(an),實(shi)現割草(cao)機(ji)器(qi)人的環境感知、定(ding)位(wei)、地(di)圖構建(jian)、路徑(jing)規劃(hua)、避障(zhang)、導(dao)航、應用(yong)等全方(fang)位(wei)功能。
美格智能
2022年3月,美(mei)格智能(neng)前瞻性提出(chu)“算(suan)力(li)(li)模(mo)組”概(gai)念(nian)和“無算(suan)力(li)(li)、不智能(neng)”的產(chan)品迭代理念(nian),并在公司(si)內部單獨建(jian)立算(suan)力(li)(li)模(mo)組產(chan)品線,專注于拓展模(mo)組產(chan)品的計算(suan)能(neng)力(li)(li)應用(yong)以及下游領(ling)域的擴展,深入(ru)挖掘如何在模(mo)組形態(tai)上充分發揮(hui)CPU/GPU/AI等(deng)計算(suan)單元的性能(neng),在算(suan)力(li)(li)模(mo)組的產(chan)品規劃、設計開發、資質(zhi)認證、應用(yong)領(ling)域等(deng)方(fang)面(mian)持(chi)續(xu)高強度投入(ru)。
隨著2023年以來,AIGC和大模型的市場爆發,大數據的處理和推理形成云端處理和邊緣側/終端側處理相結合的趨勢。美格智能持續關注技術和產業趨勢,堅持在智能模組和高算力模組領域高強度投入。當前,公司算力模組產品已可覆蓋從0.2TOPS到近48TOPS的AI算力區間,其中,高算力模組產品已經可以運行類似于Stable Diffusion、Llama 2等復雜大模型,為在各種不同類(lei)型的(de)終端產(chan)品的(de)端側執行生成式(shi)AI的(de)各類(lei)應(ying)用(yong),提供了(le)標準的(de)軟硬件環境;未來(lai)算力(li)性能將持(chi)續增強,可更充分匹配端側計算和邊(bian)緣計算需求,應(ying)用(yong)場(chang)景不斷(duan)擴展。
目前(qian),算力模組(zu)已(yi)經成為美格(ge)智(zhi)能(neng)(neng)極具特色的標(biao)簽產(chan)品,與智(zhi)能(neng)(neng)座艙、新(xin)零售、工業(ye)互聯等(deng)領域的定制化解決方案(an)結合,智(zhi)能(neng)(neng)化和定制化的特性(xing)使得公司的差(cha)異化競爭能(neng)(neng)力進(jin)一步鞏固。
移遠通信
2023年以來(lai),移(yi)遠通信顯著加(jia)大了(le)對算力模(mo)組領(ling)域的投入力度,頻(pin)頻(pin)推出新的算力模(mo)組產(chan)品:
2023年3月,移遠通(tong)信(xin)宣布,公司5G模組(zu)與英偉達Jetson AGX Orin平臺已(yi)成功完成聯調,實現5G通(tong)信(xin)+AI邊(bian)緣(yuan)計算(suan)能力(li)。
2023年11月,移遠通信相(xiang)繼在投資者互(hu)動平(ping)臺(tai)表示,在智能模組領(ling)域,高算力(li)正(zheng)在成(cheng)為行業新標桿,公司基于(yu)不同平(ping)臺(tai)已開發出多款(kuan)智能算力(li)模組,適(shi)用于(yu)工業質檢(jian)、智能相(xiang)機(ji)(ji)、戶外機(ji)(ji)器(qi)人、邊緣計算盒子、智慧零售等多個領(ling)域。
伴隨邊緣計(ji)算能(neng)力(li)的(de)逐步升級,搭配移遠算力(li)模組的(de)應(ying)用終端(duan)將能(neng)夠實時處理數(shu)據(ju)并做出更快的(de)數(shu)據(ju)驅動決策,同時模組還具有(you)低功耗(hao)、高速(su)連接和先進的(de)安全性等多重優勢。
2024年3月,移遠通信進一步表示,公司的智能算力模組已可應用于AI服務器上,助力客戶推出定制化的SoC陣列服務器產品,可對CPU、GPU、NPU資源進行集中管理與分配實現算力共享。公司目前已為國內頭部的互聯網平臺供應算力模組并已實現量產。
日海智能
隨著ChatGPT語言模型的火爆,日海智能也推出了高算力智能模組產品,部分產品可以提供10-15TOPS左右的算力,助力AIoT在各行各業的發展。公司智能模組產品采用高通8核處理器,高度集成無線蜂窩通信、短距離通信、多衛星接收機功能,全面覆蓋各類網絡制式,可廣泛應用于智能支付、廣告傳媒、汽車、智慧醫療等設備與行業中。
目前,算力行業面臨的主要問題是技術瓶頸。雖然算力技術在不斷創新,但是在處理大數據和復雜模型的情況下,仍然面臨著計算速度慢、能耗高等問題。對于算力模組領域同樣如是。因此,需要模組廠商聯合芯片廠商進一(yi)步加強(qiang)研發,推廣新的(de)、能提高算力的(de)效率和性能的(de)技術。
與此同時,隨著算力技術的應用范圍不斷擴大,安全性和可靠性問題也日益凸顯。在(zai)算(suan)力(li)行業中,數(shu)據安(an)全(quan)和(he)(he)算(suan)力(li)可(ke)靠(kao)性(xing)(xing)是至關(guan)重要的。因此,算(suan)力(li)模組廠商也(ye)需要進一步加強算(suan)力(li)技術的安(an)全(quan)性(xing)(xing)和(he)(he)可(ke)靠(kao)性(xing)(xing),保障數(shu)據安(an)全(quan)和(he)(he)計(ji)算(suan)能力(li)可(ke)靠(kao)。
此外,目前算力產業鏈還不夠完善,各個環節之間缺乏協同(tong)(tong)(tong)和(he)(he)配(pei)合(he),導致算(suan)力(li)資(zi)(zi)源(yuan)的(de)浪(lang)費和(he)(he)利用率(lv)的(de)低下。算(suan)力(li)模組廠商(shang)作為算(suan)力(li)產業(ye)(ye)鏈的(de)重要(yao)一環,需要(yao)進一步完善(shan)與上下游合(he)作伙伴的(de)協同(tong)(tong)(tong)配(pei)合(he),共同(tong)(tong)(tong)建立行業(ye)(ye)標準和(he)(he)規(gui)范,促進產業(ye)(ye)協同(tong)(tong)(tong)和(he)(he)資(zi)(zi)源(yuan)整合(he)。
隨著物聯網持續發展,對于模組及終端產品的智能化和高算力的需求將更為明顯,在蜂窩連接基礎上進一步提供智能化操作系統和AI算力的智能模組、AI算力模組,在整體模組行業中的滲透率將進一步提升。一方面,隨著邊緣域計算的發展,算力模組的重要性逐漸凸顯。目前數據處理正在逐漸從云端向邊側、端側擴散,數據就近處理的場景不斷涌現。終端側算力需求的激增和邊緣計算場景的極大豐富,將帶動高算力模組品類高速發展。
另一方面,算力模組能讓終端開發者基于標準化的模組完成低成本、短流程的產品設計和制造,為海量(liang)場(chang)景提(ti)供穩定的通信能力(li)(li)和邊(bian)緣算(suan)力(li)(li),降低大模型的使用成(cheng)本。