騰訊混元推出全新2Bit量化模型，邊緣設備部署新選擇

【首個產業級2Bit量化新突破，騰訊混元推出0.3B端側模型】2月10日訊，基於首個產業級2Bit端側量化方案，騰訊混元今天正式推出一款面向消費級硬件場景的“極小”模型HY-1.8B-2Bit，等效參數量僅有0.3B，內存佔用僅600MB，比常用的一些手機應用還小。通過對此前混元的小尺寸語言模型——HY-1.8B-Instruct進行2比特量化感知訓練（QAT）產出，這一模型對比原始精度模型等效參數量降低了6倍，並且在沿用原模型全思考能力同時，在真實端側設備上對比原始精度模型生成速度提升2—3倍，可大幅提升使用體驗。此次騰訊混元推出HY-1.8B-2Bit模型，可以在邊緣設備上無壓力部署。這也是首個在實現2bit產業級量化的端側模型實踐。