騰訊混元 AI Infra 推出 HPC-Ops 全新開源升級

【騰訊混元 AI Infra 新開源：HPC-Ops 推理核心算子全面升級】6月11日訊，爲了進一步滿足推理系統對動態業務負載的適應性、核心模塊對複雜精度和高性能融合算子的需求，HPC-Ops 推出全新更新開源升級，包含五大關鍵算子。本次升級在主流推理平臺上，有效緩解了Attention長尾延遲、顯存搬運開銷、跨卡通信等實際工程瓶頸，多項性能指標顯著優於現有的開源基線。（騰訊混元）