Kimi K3崛起 台鏈迎新商機
中國AI大模型Kimi K3崛起,帶動AI投資重心由單純追求GPU算力,轉向高速互聯、記憶體與系統效率。法人認為,隨AI推論需求快速成長,高速交換器、光模組、共同封裝光學(CPO)、矽光子、先進PCB、高階銅箔基板(CCL)、DDR5及企業級固態硬碟(eSSD)等台灣AI供應鏈,可望迎來新一波升級商機。
中國大陸AI新創月之暗面(Moonshot AI)上周推出Kimi K3,具備原生多模態能力及100萬Token上下文視窗,完整模型權重預計27日公開,可望成為目前全球規模最大的開放權重模型之一。Kimi K3主攻長篇程式開發、深度推理、知識工作及AI代理人(AI Agent)等複雜應用,也讓市場重新檢視AI基礎建設的投資方向。
Kimi K3採用混合專家模型(MoE)架構,總參數規模達2.8兆,推論時僅啟動部分專家模型,而非全部模型參數,可有效降低單次推論成本。
不過,不同專家通常分散於多顆GPU及不同伺服器節點,每處理一個Token,都須在晶片間高速交換與整合資料,使高速互聯的重要性大幅提升。
法人分析,未來AI競爭將不再只是比拚GPU數量或單顆晶片算力,而是整套AI叢集的運作效率。若晶片間資料傳輸速度不足,即使GPU效能再高,也可能因等待資料而閒置,拖累整體推論效能,因此高速交換器、光模組、CPO、矽光子、先進PCB及CCL等高速傳輸供應鏈的重要性將持續提升。
由於AI Agent需自行拆解任務、搜尋資料、呼叫外部工具並反覆修正結果,將產生更多KV Cache資料,也同步推升DDR5與企業級SSD需求。法人認為,AI資本支出未來並非降溫,而是由單純堆疊GPU,轉向提升網路傳輸、記憶體、儲存及系統效率,相關供應鏈將持續受惠。
根據Artificial Analysis最新公布的「智慧指數(Intelligence Index)」,Kimi K3在最新評測中名列前茅,也是首個躋身前段班的開放權重模型。由於大量開發者湧入體驗,月之暗面19日宣布,因算力資源吃緊,暫停開放Kimi新用戶訂閱,優先保障既有付費用戶服務。
查看原始新聞
※ 本文由《工商時報》授權刊載,未經同意禁止轉載。
點我加《工商時報》LINE好友,財經新聞不漏接