雲天勵飛推理芯片研發進展與技術亮點分析

【雲天勵飛：正在研發的推理芯片引入3D堆疊存儲架構】5月12日訊，雲天勵飛在投資者關係活動記錄表中披露，公司正在研發的推理芯片，採用GPNPU架構爲核心技術路線，主要技術亮點包括四個方面，一是GPGPU級通用編程能力：面向國內芯片“易用性”痛點，GPNPU架構強調對主流CUDA等生態的兼容與遷移支持，以降低客戶模型部署與遷移門檻；二是極致能效的NPU內核：圍繞推理效率與能效比進行深度優化，提升推理側性價比；三是引入3D堆疊存儲架構：採用3D堆疊存儲架構，以獲得更高帶寬與更低訪問時延，突破“內存牆”，提升推理效率；四是算力積木架構：公司延續過去五年在國產工藝上的探索，以“算力積木”架構利用下一代芯片構建機架級Scale-up超節點，以滿足萬億級乃至十萬億級MoE架構大模型的推理需求。公司通過該技術路線目標是指數級降低Token成本，加速大模型應用的規模化、普惠化落地。