一文看懂：GPU還是TPU？谷歌芯片如何向英偉達發起挑戰

只要英偉達(NVDA.O)主導人工智能芯片市場，客戶就一直明確表示希望看到更多競爭。而最近的事實證明，其中一個最強有力的替代方案可能一直就在眼前。

谷歌十年前推出了其張量處理單元（TPU），旨在加速公司的網頁搜索引擎並提升效率。後來，這些芯片被改造用於谷歌AI應用中的機器學習任務。

如今，谷歌正通過TPU獲得重要訂單，這表明它們可能成爲英偉達AI加速器（用於訓練和運行當今複雜大型語言模型的圖形處理單元GPU）的可信替代方案。

本文將詳解關於TPU的更多信息，包括其工作原理、潛力及侷限性。

GPU和TPU有什麼區別？

兩種芯片都能處理訓練AI模型所需的大量計算，但方式不同。

英偉達GPU最初是爲逼真渲染視頻遊戲畫面而開發，通過數千個計算“核心”並行處理多項任務。這種架構也使它們能夠以競爭技術無法匹敵的速度執行AI任務。

TPU則專爲一種AI相關工作，也就是矩陣乘法而設計，這是訓練神經網絡的主要操作，神經網絡生成AI聊天機器人（如OpenAI的ChatGPT和Anthropic的Claude）對提示的響應時使用大量順序執行的重複計算。

TPU的設計使這類任務高效完成。它們比英偉達GPU更專業化、適應性較低，但在運行這些操作時耗能更低。英偉達GPU靈活、可編程性強，但這種靈活性也意味著運行成本更高。

TPU如何成爲AI場內的競爭者？

谷歌於2013年開始研發首款TPU，並於兩年後發佈。最初，它用於加速公司搜索引擎並提升效率。2018年，谷歌首次將TPU部署在雲平臺上，讓客戶能夠使用同樣技術的計算服務。

這些芯片也被改造用於支持谷歌內部AI開發。當公司及其DeepMind部門開發出如Gemini這樣的前沿AI模型時，AI團隊的經驗被反饋給TPU設計師，從而定製芯片以更好地服務內部AI團隊。

谷歌最新一代TPU名爲Ironwood，於4月發佈。它採用液冷設計，專用於運行AI推理工作負載（即使用AI模型而非訓練模型），提供兩種配置：一個包含256顆芯片的Pod，或一個更大的包含9,216顆芯片的Pod。

Seaport分析師Jay Goldberg表示，對於某些AI任務，TPU的表現可能優於GPU，因爲谷歌可以“剔除芯片中很多非AI部分”。目前TPU已發展到第七代，谷歌提升了芯片性能、增強了算力，同時降低了能耗，使其運行成本更低。

誰在使用TPU？

當前TPU客戶包括Safe Superintelligence，一家由OpenAI聯合創始人Ilya Sutskever去年創辦的初創公司，以及Salesforce、Midjourney和Anthropic等目前已經廣爲人知的企業。

根據10月披露的一項協議，Anthropic將通過多達100萬顆TPU獲得超過1吉瓦的谷歌計算能力。次月，《The Information》報道稱Meta Platforms正在洽談在2027年將谷歌TPU應用於其數據中心。

這些進展凸顯了主要AI企業在追求增加算力以應對快速增長的需求時，正在積極採用TPU。

TPU銷售前景如何？

最大的AI開發商在昂貴的英偉達芯片上花費數百億美元，他們希望降低依賴並緩解供應短缺影響，這爲TPU指向了巨大的潛在市場。

目前，想使用谷歌TPU的企業必須在谷歌雲平臺租用算力。這可能很快會改變。分析師表示，Anthropic的協議使TPU擴展到其他雲平臺更有可能。

目前，包括谷歌在內，沒有企業打算完全取代英偉達GPU；AI發展的速度意味著這在短期內不可能。

Gartner分析師Gaurav Gupta表示，谷歌儘管擁有自己的芯片，仍是英偉達的重要客戶，因爲它需要保持對客戶的靈活性。如果客戶的算法或模型發生變化，GPU更適合處理更廣泛的工作負載。

英偉達發言人表示：“英偉達領先整個行業一代。我們對谷歌取得的成功感到高興。他們在AI領域取得了巨大進步，我們仍在爲谷歌供貨。”

即便是簽約使用TPU的科技公司，仍在大量採用英偉達芯片。例如，Anthropic在與谷歌TPU合作幾周後，就與英偉達簽署了一筆大額交易。

也就是說，谷歌TPU的最佳前景可能是成爲推動AI增長所需產品組合中的一部分，而非將GPU取而代之。