代理式AI熱 Token需求迎爆發
投行高盛發布最新報告預測,代理式AI(Agentic AI)2040年將迎來大爆發,並推動Token(詞元,模型處理語言時的基本單位)需求暴增。高盛預估,2030年時全球AI查詢量將增至230億次,其中約3成查詢由代理式AI完成,屆時Token消耗量將為目前的24倍,2040年需求達到現有的55倍。
高盛近日發布一份名為「解碼代理式經濟」(Decoding the Agentic Economy)的報告,內容指出AI產業正面臨一項關鍵轉變,也就是:代理式AI正從實驗階段邁向主流應用。「代理式AI」指的是由軟體機器人處理與解決問題。
此變化將大幅推升AI運算所需的Token需求,後者為AI運作的核心單位。
高盛預估,全球2030年時的AI查詢量將從2025年的50億次增至230億次。隨著代理式AI日益普及,市場對CPU相關公司的前景愈來愈樂觀,這些公司包括英特爾、超微與安謀等。
在供應鏈管理、程式開發與法律服務等應用推動下,全球Token需求將大幅攀升,到2030年時Token每月消耗量將達120兆,約為目前需求的24倍。若企業代理式AI全面普及,2040年需求可能為現有的55倍。
代理式AI全天候運作,持續監控環境、驗證資料並使用外部工具,因此會大幅增加Token消耗。
目前企業端應用仍處於初期階段,使用代理式AI的企業不到四分之一。
高盛表示,代理式AI興起將推升Token消耗量,進而讓AI運算基建設施的大規模資本支出轉為可獲利模式。
該報告指出,輝達、超微與亞馬遜Trainium最新一代晶片技術精進,令每Token運算成本每年下降60%~70%。基於此趨勢,今年上半年AI與雲端服務供應商的毛利率可望轉正。
儘管高盛對代理式AI前景抱持樂觀看法,但同時警告須留意資料品質風險。若資料品質不佳,可能導致大量資源消耗卻無法產生相對應的回報。
查看原始新聞
※ 本文由《工商時報》授權刊載,未經同意禁止轉載。
點我加《工商時報》LINE好友,財經新聞不漏接