高通全球副總裁孫剛：未來幾個月將有望在手機上運行超過 100 億參數的 AI 模型
作者 | 新浪科技2023-07-20
7 月 20 日(ri)午間消(xiao)息，在今(jin)日(ri)的 2023 世界半(ban)導體大會(hui)暨南(nan)京國(guo)際半(ban)導體博覽(lan)會(hui)上(shang)，高通全球副總(zong)裁孫剛發表演(yan)講。
他表示，5G 技術持續演講，5G Advanced 開啟新一輪 5G 創新;推動混合 AI 架構，通過在終端側運行 AI 推理分擔或支持云端處理。5G 與 AI 將如影隨形同步發展，兩大協同基本要素助力未來創新。
孫剛提到，生成式 AI 將在搜索、內容生成、代碼編寫、生產力上帶來變革。顛覆行業現狀，幾秒內即可創作內容，巨大的市場機遇和顯著提升生產力的潛力。2020 年至 2022 年，生成式 AI 相關的投資增長 425%，初步預估生成式 AI 市場規模將達到 1 萬億美元(當前約 7.23 萬億元人民幣)。
不過他指出，云經濟難以支持生成式 AI 規模化拓展，為實現規模化拓展，AI 處理的中心正在向邊緣轉移。比如 XR、汽車、手機、PC、物聯網，生(sheng)成式(shi) AI 將影響各(ge)類終端上的應(ying)用。
在 2023MWC 期間，高通進行了全球首個終端側演示運行于安卓手機的生成式 AI，下一步在終端上運行大型語言模型。
“目前我們能夠支持參數超過 10 億的模型在終端上運行，未來幾個月內超過 100 億參數的模型將有望在終端側運行。”他說。
熱門文章
5
8
12
18
