探索智能體推理系統的創新與突破

【DeepSeek聯合清北重磅硬核論文：發力智能體底層基建，擊穿Agent推理I/O瓶頸】2月27日訊，DeepSeekV4發佈前夕硬核重磅論文上線。DeepSeek聯合北大、清華研究團隊提出了一種全新的大模型推理系統——DualPath。該系統通過引入“雙路徑KV-Cache加載”機制，巧妙利用了集羣中閒置的網絡帶寬，將Agentic大模型負載的離線推理吞吐量提升了最高1.87倍，在線服務吞吐量平均提升了1.96倍。目前，這項研究已在包含多達1152張GPU的集羣上完成了大規模驗證，支持DeepSeek-V3.2660B等頂級大模型。（AI寒武紀）