目前AI技術正與(yu)終端(duan)產(chan)(chan)品快速(su)融合(he)，推(tui)動(dong)了(le)以消費電(dian)子代表的諸多終端(duan)硬件產(chan)(chan)品的創新。2024年極(ji)具代表性的AI Phone、AI PC等創新端(duan)側AI產(chan)(chan)品也(ye)的確(que)激發了(le)新的市場，以更智(zhi)能(neng)(neng)的功能(neng)(neng)刺激了(le)消費需求，給(gei)我(wo)們日常生活帶來智(zhi)能(neng)(neng)化改變(bian)的同時，也(ye)帶動(dong)了(le)上下游(you)產(chan)(chan)業(ye)鏈加速(su)創新。
蘋果在2024年將Apple Intelligence引入iPhone ，雖然近期交易平臺SellCell的一份報告顯示絕大多數用戶認為Apple Intelligence功能目前并未帶來明顯的價值提升，但這并不影響智能設備的未來方向——減少云端依賴，重點發展端側AI。
為了提升端側AI競爭力，強大的硬件性能支持是前提，對于芯片側的要(yao)求會聚(ju)焦在算力(li)、內(nei)存、功(gong)耗(hao)、工藝、面積、散熱等方面，其中存儲芯片是極為關鍵的一環。
為了進一步提(ti)高iPhone的(de)端側AI性能，根(gen)據(ju)韓媒報道，三星應蘋(pin)果公司的(de)要求，開(kai)始(shi)研究新(xin)的(de)低(di)功(gong)耗雙倍數據(ju)速率LPDDR DRAM封裝(zhuang)方式。
此前蘋(pin)果的(de)LPDDR DRAM堆疊在整個SoC上(shang)(shang)，體積緊湊，便于降低功耗(hao)與延(yan)遲，是板上(shang)(shang)空(kong)間受限(xian)的(de)消費電子設備常用的(de)封裝(zhuang)方式。蘋(pin)果希望(wang)通過分開封裝(zhuang)DRAM和(he)SoC，增加I/O引腳數量提(ti)高數據傳(chuan)輸速率和(he)并行(xing)數據通道，提(ti)高內存帶寬以增強 iPhone的(de)端側AI能力。
此前亦有報道(dao)稱三星還可能(neng)嘗(chang)試為iPhone DRAM 應用(yong)專為設備端(duan)AI設計(ji)的LPDDR6-PIM（內存內置處理器(qi)）技術。
AI技術應用場(chang)景從云端擴展到端側(ce)設備，給(gei)存儲市(shi)場(chang)帶(dai)來了新(xin)市(shi)場(chang)需求，同時(shi)也推動了存儲芯片在端側(ce)的持續創(chuang)新(xin)。
從云到端，AI催生存儲“芯”需求
在云端，AI依(yi)賴于(yu)大(da)規模的數(shu)據(ju)中心(xin)和高效(xiao)龐大(da)的存(cun)(cun)(cun)儲(chu)系(xi)統(tong)來存(cun)(cun)(cun)儲(chu)、傳輸并處理數(shu)據(ju)。數(shu)據(ju)中心(xin)有著大(da)規模集群式的存(cun)(cun)(cun)儲(chu)硬件來應對海量數(shu)據(ju)，而(er)在端側(ce)，AI需(xu)要在計算資源(yuan)(yuan)、存(cun)(cun)(cun)儲(chu)資源(yuan)(yuan)受限的設(she)備上實(shi)(shi)現實(shi)(shi)時、低(di)功耗的數(shu)據(ju)處理，這對存(cun)(cun)(cun)儲(chu)芯(xin)片的容量、速度和能效(xiao)提出(chu)了全(quan)新的要求(qiu)，也推動(dong)了存(cun)(cun)(cun)儲(chu)技術革新。
根據國際知名調研機構TechInsights發布的《2025存儲器市場展望》，存儲器市場包括DRAM和NAND，預計在2025年將實現顯著增長，這主要得益于人工智能（AI）及相關(guan)技術的加(jia)(jia)速(su)采(cai)用。報(bao)告中同樣表(biao)示隨(sui)著邊緣AI變(bian)得(de)更加(jia)(jia)普及，將(jiang)推動對適合這些新功能(neng)的內存解決(jue)方案的需求。
來源(yuan)：TechInsights
從今年的幾個市場來(lai)看，CFM閃存市場數(shu)據(ju)，2024年手機存儲(chu)(chu)需(xu)求同(tong)比去年增長(chang)4%，PC市場存儲(chu)(chu)需(xu)求同(tong)比增長(chang)8%，而且端(duan)側AI已經(jing)開始推動這(zhe)些領(ling)域的終(zhong)端(duan)設備內存儲(chu)(chu)芯片的更(geng)新換代。
AI手機(ji)(ji)領(ling)域，16G的(de)(de)DRAM可以說已(yi)(yi)經(jing)是(shi)AI手機(ji)(ji)最低的(de)(de)基(ji)本配置，AI PC領(ling)域同樣，更快(kuai)的(de)(de)數據(ju)傳輸速度、更大的(de)(de)存(cun)儲(chu)容量(liang)和帶寬需求(qiu)也帶動了主流LPDDR5x和LPDDR5T產(chan)品的(de)(de)需求(qiu)。如(ru)微軟發(fa)布的(de)(de)AI PC求(qiu)內存(cun)容量(liang)最低為16GB，搭載新(xin)處(chu)理器(qi)的(de)(de)AI PC已(yi)(yi)普(pu)遍將內存(cun)提升至了32GB，為AI模型(xing)的(de)(de)部署升級留下充足空間。
AI智能(neng)眼鏡、AI TWS耳(er)機(ji)今年也是紛(fen)紛(fen)上(shang)新(xin)(xin)，AI TWS耳(er)機(ji)中功能(neng)更(geng)多，為了存(cun)儲(chu)更(geng)多固件和(he)代碼程序，就需要外(wai)擴串行NOR Flash。當(dang)前幾款已發布的AI耳(er)機(ji)中NOR Flash容量較(jiao)之普通TWS耳(er)機(ji)也有了比較(jiao)大的提升，基本上(shang)實現了翻倍來支持內(nei)置的AI新(xin)(xin)功能(neng)。
對端(duan)側AI設(she)備(bei)來說，算力(li)和數(shu)據(ju)的加持實現了(le)各(ge)種智能功(gong)能，而(er)這些數(shu)據(ju)存放在哪里，如何高效讀(du)寫這些數(shu)據(ju)，需(xu)要更強(qiang)大的存儲(chu)芯(xin)片為其提(ti)供助力(li)。
科技產品的創新往往是牽一發而動全身，為實現某一功能，需要整個終端配置協同更新。最終體現在消費者面前的可能僅僅是某一個具體的簡單好用的功能點，而在其背后是軟硬件先進技術數年不斷迭代。端側AI設備功能實現背后存儲器技術革新是貼切的寫照，存儲器更大容量更高讀寫速度更低功耗背后亦是整個半導體產業鏈制程技術迭代的體現。
存儲芯片與端側AI設備協同演變
存儲(chu)(chu)產品在我們日常生活中(zhong)隨處可見，其主要(yao)功能(neng)包括數據的存儲(chu)(chu)、讀取、寫(xie)入和擦除，而(er)其分類則(ze)根(gen)據存儲(chu)(chu)介(jie)質(zhi)的不同(tong)，又有(you)隨機(ji)存取存儲(chu)(chu)器（RAM）、只讀存儲(chu)(chu)器（ROM）、閃存（Flash Memory）等多種(zhong)類型。目前各類智能(neng)終端中(zhong)應用的存儲(chu)(chu)芯(xin)片主要(yao)有(you)如下幾種(zhong)。
DRAM
動(dong)態隨(sui)機存(cun)取存(cun)儲(chu)器(qi)，是(shi)最常見的系統(tong)內存(cun)類型(xing)，用(yong)(yong)于存(cun)儲(chu)臨(lin)時數(shu)據和(he)正(zheng)在(zai)處理的數(shu)據，是(shi)最大(da)規模的單品市場。在(zai)AI智能(neng)手(shou)機、AI PC等智能(neng)終(zhong)端中，DRAM用(yong)(yong)于提(ti)供快速的數(shu)據訪問和(he)處理能(neng)力，前文已提(ti)到AI終(zhong)端已經開(kai)始(shi)換(huan)上更(geng)大(da)容(rong)量更(geng)高讀寫速度的DRAM，隨(sui)著AI應用(yong)(yong)的發展，對(dui)高性能(neng)DRAM的需求(qiu)仍在(zai)不斷增長。
NAND Flash
NAND Flash閃存(cun)是(shi)一種非易(yi)失性存(cun)儲(chu)器(qi)，用于(yu)長期數據(ju)存(cun)儲(chu)。在(zai)智能終端(duan)如AI手機(ji)、AI PC、AI Pad中，NAND Flash用作(zuo)內部(bu)存(cun)儲(chu)，存(cun)儲(chu)操作(zuo)系統(tong)、應用程(cheng)序和(he)用戶數據(ju)。未來端(duan)側設備操作(zuo)系統(tong)肯定會(hui)(hui)搭載大模型以(yi)及其他AI應用程(cheng)序，端(duan)側設備會(hui)(hui)需要更高(gao)的(de)NAND Flash容量用于(yu)長期存(cun)儲(chu)。
NOR Flash
NOR Flash也是(shi)(shi)(shi)一種非易(yi)失(shi)性存儲(chu)器，常用于存儲(chu)啟動(dong)代(dai)碼和(he)固件。它在(zai)需(xu)要快速啟動(dong)和(he)執(zhi)行的設備(bei)中尤(you)為重要，上(shang)(shang)文提到的AI TWS耳機就是(shi)(shi)(shi)典型的應用。市(shi)場(chang)上(shang)(shang)各類AI硬件對NOR Flash容(rong)量需(xu)求增加已經(jing)是(shi)(shi)(shi)確定性的趨勢(shi)，尤(you)其是(shi)(shi)(shi)中大容(rong)量NOR Flash。
UFS
高性能的通用閃存存儲方案，在高端移動設備中應用。UFS4.0版本，其最高讀取速度已經達到了4200MB/s，寫入速度也能達到2800MB/s。端側AI性能的發揮離不開高效的數據流轉，UFS 4.0存儲技術正好能夠為之提供支持。隨著端側AI軟件層面的持續優化以及UFS 技術向更多端側設備普及，端側AI設備將擁有更強大的學習能力和更快的響應速度。引用鎧俠對UFS前景描述的原話，“現代手機正進入一個由端側AI（On-Device AI）與先進存儲技術協同發展的新時代”。
LPDDR
一(yi)種低(di)功(gong)耗(hao)版本的(de)DRAM，即低(di)功(gong)耗(hao)雙(shuang)倍數據(ju)速率(lv)，是(shi)為移(yi)動設備(bei)設計(ji)以減少能耗(hao)的(de)方案(an)。LPDDR5和LPDDR5x提供了(le)更(geng)高的(de)數據(ju)傳輸速率(lv)和更(geng)低(di)的(de)功(gong)耗(hao)，LPDDR6也敲定在即，將全面適配AI計(ji)算需(xu)求，用更(geng)高頻率(lv)更(geng)高帶寬支(zhi)持端(duan)側(ce)AI設備(bei)。
HBM
HBM的(de)火熱程度(du)想(xiang)必都有所(suo)耳聞，它本(ben)質上是一(yi)種高(gao)(gao)性(xing)(xing)能(neng)的(de)3D堆疊DRAM，擁有極高(gao)(gao)的(de)帶寬和存儲(chu)密度(du)，適用于需要(yao)處理大(da)量數(shu)據(ju)的(de)AI和高(gao)(gao)性(xing)(xing)能(neng)計算應(ying)用，主要(yao)用于服(fu)務器(qi)和數(shu)據(ju)中心等高(gao)(gao)性(xing)(xing)能(neng)計算領(ling)域。
為什么在(zai)(zai)(zai)端(duan)(duan)側(ce)設備(bei)存(cun)(cun)儲中仍舊(jiu)將其列(lie)了出(chu)來(lai)呢？因為端(duan)(duan)側(ce)設備(bei)開始搭載HBM已(yi)經在(zai)(zai)(zai)內(nei)存(cun)(cun)大廠(chang)的(de)推進日程中。此前就有報道SK海力士正在(zai)(zai)(zai)將HBM導入汽車領(ling)域(yu)，在(zai)(zai)(zai)移動(dong)端(duan)(duan)側(ce)設備(bei)領(ling)域(yu)，三星與(yu)海力士同(tong)樣在(zai)(zai)(zai)做端(duan)(duan)側(ce)HBM產(chan)品研發，初步估(gu)計2026年能(neng)實現商業化。
大大小小各類存儲(chu)(chu)芯(xin)片在端側(ce)AI設備(bei)紛紛落地的(de)推(tui)動下，迎來了(le)新(xin)的(de)市場需求，同(tong)時(shi)也在不斷升級以適(shi)配端側(ce)AI設備(bei)對存儲(chu)(chu)的(de)新(xin)要(yao)求。目前看來存儲(chu)(chu)產品在端側(ce)AI設備(bei)的(de)協(xie)同(tong)演(yan)進上主要(yao)在這(zhe)幾方面做(zuo)了(le)提(ti)升。
數據處理速度與內存帶寬
端側AI應用對即時數據(ju)處理(li)和(he)(he)(he)快速響應的(de)(de)需(xu)求(qiu)是明(ming)確的(de)(de)，這依賴于存(cun)儲(chu)(chu)芯(xin)片(pian)有(you)著極高(gao)的(de)(de)數據(ju)讀(du)(du)寫(xie)速度，這樣才能體(ti)驗端側AI實(shi)時的(de)(de)特點(dian)。同樣，隨(sui)(sui)著端側大(da)模型引入(ru)，對內(nei)存(cun)帶寬的(de)(de)需(xu)求(qiu)也隨(sui)(sui)之增長，要(yao)求(qiu)存(cun)儲(chu)(chu)芯(xin)片(pian)能夠在短時間(jian)內(nei)完成大(da)量數據(ju)的(de)(de)讀(du)(du)寫(xie)操作，并支持高(gao)并發的(de)(de)數據(ju)訪問請求(qiu)，解決內(nei)存(cun)墻問題實(shi)現在受限的(de)(de)資源下(xia)釋(shi)放端側大(da)模型性能。還需(xu)要(yao)通過優化存(cun)儲(chu)(chu)結構和(he)(he)(he)算法，提高(gao)存(cun)儲(chu)(chu)空(kong)間(jian)的(de)(de)利用率(lv)和(he)(he)(he)數據(ju)的(de)(de)讀(du)(du)寫(xie)效(xiao)率(lv)。
能效管理與小型化
在端(duan)側(ce)AI與存(cun)(cun)儲(chu)芯片的協(xie)同優(you)化中，能效管理與芯片小型(xing)化是匹(pi)配端(duan)側(ce)智能設備高效運(yun)行的關鍵。端(duan)側(ce)AI設備存(cun)(cun)儲(chu)目標是以最(zui)高效的方式將AI模型(xing)從存(cun)(cun)儲(chu)加(jia)載到內存(cun)(cun)中。為(wei)此，需要在不增加(jia)功耗的前提(ti)下，獲得(de)盡可能高的吞吐量(liang)。如(ru)何降低功耗、節(jie)省(sheng)(sheng)空間是每家原廠都在琢磨的。如(ru)美(mei)光科技針(zhen)對(dui)AI PC開發的LPDDR5X與傳統(tong)SODIMM產品相比就將功耗降低了(le)58%，空間節(jie)省(sheng)(sheng)了(le)64%。
落地端側，存儲探索更多可能
端側(ce)AI設備的快速發展，倒(dao)逼了存(cun)儲芯片(pian)整體性能(neng)的革新，新型(xing)存(cun)儲技(ji)術也(ye)在新趨勢(shi)下加速發展。
如MRAM磁阻隨機存取存儲器，它是一種基(ji)于隧穿磁阻(zu)效(xiao)應的存儲器，具有讀寫(xie)次數無限、寫(xie)入速(su)度快、功耗低特點，兼具非易失性和高速(su)讀寫(xie)的特性，非常(chang)契合需要快速(su)響應和持(chi)久保存數據的端(duan)側本地存儲。
MRAM與(yu)(yu)邏輯芯片(pian)集成度高的(de)(de)特點(dian)也(ye)能(neng)(neng)(neng)在(zai)(zai)設(she)備(bei)(bei)小型化上提(ti)供助力，在(zai)(zai)端(duan)側設(she)備(bei)(bei)深入(ru)應(ying)用的(de)(de)未(wei)來，MRAM有望能(neng)(neng)(neng)匹配傳(chuan)統存(cun)儲(chu)(chu)器的(de)(de)應(ying)用需求(qiu)，與(yu)(yu)其他存(cun)儲(chu)(chu)器結合，為端(duan)側AI設(she)備(bei)(bei)存(cun)儲(chu)(chu)上性能(neng)(neng)(neng)、容(rong)量和成本的(de)(de)平衡。
另一個隨著AI應用普及開始被重視的方向，則是存算一體化，根(gen)據(ju)(ju)不(bu)同側重(zhong)還(huan)能細分(fen)到近存(cun)(cun)計(ji)算(suan)、存(cun)(cun)內(nei)(nei)處理和(he)存(cun)(cun)內(nei)(nei)計(ji)算(suan)。對數據(ju)(ju)處理速度(du)和(he)存(cun)(cun)儲效率的要求(qiu)不(bu)斷提高(gao)，傳統(tong)與(yu)計(ji)算(suan)分(fen)離的存(cun)(cun)儲解決方案(an)日后或許承載不(bu)了端側AI對實時性和(he)能效的需求(qiu)。
在內存內核中集成NPU等AI引擎來處理一些計算、處理功能，避免了傳統架構中數據在存儲器和處理器之間頻繁傳輸所產生的延遲，可以實現更快的數據訪問速度和更低的能耗，這對于需要本地實時響應的端側應用場景尤為重要。對算力、功耗和實時性有較高要求的眾多移動端側AI設備，如AI手機、AI PC、AI可穿戴設備、AI智能家居日后都可能選擇該技(ji)術路線。
寫在最后
端側AI給(gei)存(cun)儲(chu)(chu)芯(xin)片市(shi)(shi)場帶來了新的(de)發(fa)展(zhan)機遇和(he)挑戰，端側AI功(gong)能不斷擴展(zhan)和(he)深化，對存(cun)儲(chu)(chu)的(de)性能和(he)功(gong)耗要求將越(yue)來越(yue)高，整個產(chan)業(ye)鏈(lian)上下游全力推進技(ji)術革新保持(chi)競(jing)爭力；另一方(fang)面，隨著新型存(cun)儲(chu)(chu)技(ji)術的(de)不斷涌現以及端側AI設備存(cun)儲(chu)(chu)芯(xin)片需求打開(kai)，市(shi)(shi)場競(jing)爭將更(geng)加激烈，這對于國內存(cun)儲(chu)(chu)芯(xin)片廠商也是一個崛起機會(hui)。
回到文章開頭的故事，雖然目前端側AI設備還并沒有做到真正的智能，但有一句話是這樣說的，“人們總是高估短期，而低估長期科技能力”，未來(lai)具有真正意(yi)義上設備端(duan)AI功能(neng)的(de)產品功能(neng)會讓人意(yi)想不到。而隨著(zhu)端(duan)側AI設備功能(neng)的(de)不斷成熟和(he)應用場景的(de)拓(tuo)展(zhan)，存(cun)儲芯片將迎來(lai)新的(de)前(qian)景和(he)機遇。
