OpenAI自研芯片Jalapeño跑贏英偉達GB300，最

schedule 2026/08/26 10:45:03

OpenAI正在把自研芯片推到與英偉達(NVDA.O)直接比較的位置。該公司披露，首款自研大模型推理芯片Jalapeño在公開基準測試中超過英偉達GB300，在單位功耗能夠處理的AI工作量和響應速度兩項指標上取得領先。

不過，這並不意味著OpenAI已經能夠擺脫英偉達。Jalapeño目前只面向推理，不用於大模型訓練，而且測試的比較對象也不是英偉達剛開始出貨的新一代Vera Rubin。OpenAI硬件負責人Richard Ho明確表示，英偉達是一個非常好的合作伙伴，仍然需要大量英偉達芯片。

Jalapeño更直接的目標，是把部分推理負載轉向OpenAI自己的基礎設施，降低模型運行成本。Richard Ho稱，只要未來能夠擴大產量，而且實際成本節省達到預期，OpenAI希望讓更多AI任務由自研芯片承擔。

對比GB300，功耗和響應速度同時領先

專注於半導體與AI行業的獨立研究機構SemiAnalysis指出，Jalapeño由OpenAI與博通合作開發，從2024年年中開始組建團隊和推進設計，到完成流片約用了16個月。

在Hot Chips大會上，OpenAI公佈了首批性能結果。Jalapeño採用SemiAnalysis的InferenceX進行測試，對比對象是英偉達GB300，當時GB300是這一公開基準體系中的領先產品。

按照測試結果，Jalapeño不僅每名用戶的Token生成速度更高，每千瓦能夠提供的吞吐量也更高。Richard Ho表示，最重要的是，這些結果顯示，與當前最先進水平相比，性能提升非常、非常顯著。

SemiAnalysis稱，Jalapeño在幾乎所有測試場景中的性能功耗比都超過GB300，而且取得這些結果時沒有使用多Token預測，也就是MTP。相比之下，其他芯片採用的是各自表現最好的配置，並使用了MTP。

在DeepSeek R1模型上，併發量爲1時，Jalapeño每名用戶生成速度超過700 Token/秒。OpenAI還公開測試了自身較小的開放模型，以及DeepSeek和Moonshot AI的第三方模型，其中在Kimi模型上的優勢更明顯。

OpenAI稱，內部測試中Jalapeño也運行了一些尚未發佈的大型先進模型。公司據此認爲，隨著工作負載變得更大、更復雜，這套設計的價值可能進一步提升。

Jalapeño的另一個重點是功耗。Richard Ho表示，這款芯片能夠在約700瓦功耗下取得較強性能，而電力正是大型AI數據中心的重要成本來源。

他在接受彭博採訪時稱，隨著Jalapeño擴大部署，“它應該會大幅降低成本”。OpenAI希望通過更低的單位推理成本，支撐不斷增加的模型調用和用戶需求。

這也是OpenAI設計Jalapeño時重點解決數據搬運和通信問題的原因。公司稱，芯片專門優化了Prefill和通信階段，因爲這些環節經常成爲推理瓶頸。

OpenAI表示，設計Jalapeño是爲了儘量減少數據移動和通信延遲。模型狀態，包括生成回答時使用的KV Cache，可以被明確放置並儘量保留在本地，再根據不同推理階段調用相應的計算、內存和網絡資源。

SemiAnalysis認爲，Jalapeño並不是一款只針對OpenAI模型設計的高度專用芯片，而是一款通用推理處理器，可以運行不同模型和工作負載。其優勢更多來自軟硬件協同，而不是對單一推理環節進行極端優化。

Jalapeño目前的定位也決定了它無法全面替代英偉達。它針對的是Inference，也就是模型完成訓練後響應用戶請求和執行任務的階段，並不負責大模型訓練，而訓練仍是英偉達GPU的重要優勢領域。

此外，Jalapeño此次沒有與已經開始出貨的Vera Rubin進行測試。因此，現有結果只能說明它在當前與GB300的測試中表現領先，不能直接推導爲OpenAI已經超過英偉達最新一代芯片。

Richard Ho預計，Jalapeño將在2026年底以“非常小的規模”開始部署，更大規模使用要到2027年。屆時，英偉達產品也可能已經進一步迭代。

OpenAI同樣不會停止使用其他推理芯片供應商。公司目前部分模型仍使用Cerebras Systems的技術。Richard Ho表示，Jalapeño能夠處理更大的模型，但短期內不會取代Cerebras，因爲OpenAI對算力的需求仍然巨大。

“我們需要如此多的算力，這就是爲什麼我們簽下了這麼多不同的供應商。”他說，“這種情況還會持續一段時間。”

Jalapeño也不是一次性項目。OpenAI計劃將其發展爲多代際平臺，讓模型、芯片、內存和AI產品共同演進。公司還使用自身AI模型參與芯片開發，以加快設計流程。

Richard Ho透露，第二代芯片已經進入較深入的開發階段，預計將在“未來幾個月”完成流片，第三代產品的概念設計也已經啓動。