輝達新晶片 OpenAI有望採用
據華爾街日報引述消息人士報導,晶片設計龍頭輝達,計劃於下月的GTC開發者大會上公布一款全新的AI推論晶片,可滿足OpenAI等客戶對更快AI推論運算的需求。此一消息引來市場的密切關注,預計推出後將重塑AI競爭的賽局。
報導指出,這款尚未公開正式名稱的晶片,將整合晶片設計新創公司Groq的技術,提供更快速、高效的AI系統,讓AI模型更能即時回應使用者問答。
推論運算是近年產業競爭的核心。競爭對手Google與亞馬遜都設計了與輝達旗艦產品競爭的晶片。而科技業使用AI編碼爆炸式成長,創造對能更有效處理AI複雜任務的晶片需求。
消息人士透露,OpenAI已同意成為這款新處理器的最大客戶之一,這對輝達來說是重大勝利。早在2月27日時,OpenAI在宣布將從輝達大量採購「專屬推論運算資源」時,就已透露出端倪,暗示該公司將成為輝達新晶片的最大客戶,該交易同時包含輝達的300億美元投資。
而在輝達之外,OpenAI也與亞馬遜簽署了使用其AI晶片Trainium的大型合約,以降低風險、確保運算持續供應。
這款新產品的問世,也顯示出輝達布局市場的轉向。過去輝達長期主宰GPU(圖形處理器)市場,Hopper、Blackwell、Rubin等皆被視為訓練大型模型的頂級產品,並能賣到很高的價格。多數分析師更估輝達在此市場占有率高達9成以上。
然而隨著越來越多企業開始部屬AI代理與應用工具,以及許多公司發現GPU成本太高、耗能太大,且不一定適合用來「實際執行」模型,輝達正面臨推出更便宜、更省電推論晶片的壓力。因此該公司去年底同意支付200億美元,從Groq獲得關鍵技術的授權。
Groq設計的晶片採用了一種與輝達不同的架構,稱為「語言處理單元」(LPU),這種晶片在推理功能方面效率極高。然而,輝達將如何使用Groq的技術目前仍未可知,或許得等到GTC大會新品亮相後才能知曉。
查看原始新聞
※ 本文由《工商時報》授權刊載,未經同意禁止轉載。
點我加《工商時報》LINE好友,財經新聞不漏接