騰訊雲基礎設施升級與技術創新概述

【騰訊邱躍鵬：騰訊雲將全面升級雲基礎設施】9月16日訊，9月16日，在2025騰訊全球數字生態大會上，騰訊集團副總裁、騰訊雲總裁邱躍鵬透露，目前，騰訊雲已在推理加速、AgentInfra和國際化佈局等方面取得突破，騰訊雲正不斷升級雲基礎設施，以支撐Agent規模化落地和企業全球化發展。邱躍鵬介紹，在推理加速方面，騰訊雲深入參與開源貢獻，向DeepSeek、vLLM、SGLang等社區提交了多項優化技術。針對大模型推理面臨的內存瓶頸，騰訊雲自研並開源FlexKV多級緩存技術，大幅降低KVCache的佔用，將首字時延降低多達70%。爲了支持Agent的大規模應用，騰訊雲推出了AgentRuntime解決方案，通過集成執行引擎、雲沙箱和安全可觀測等五大能力，提供穩定可靠的運行環境。其中，雲沙箱基於自研技術，啓動時間只需100毫秒，支持數十萬實例併發。（上證報）