【騰訊混元：295B參數模型Hy3單卡即可部署】7月14日訊

【騰訊混元：295B參數模型Hy3單卡即可部署】7月14日訊，騰訊混元發文表示，Hy3上線並開源後，社區一直在呼籲量化版本，希望單卡跑參數量達295B的Hy3。團隊針對開源社區需求，把Hy3的權重量化到1bit與4bit並打包成GGUF，配合llama.cpp生態，讓原本只能跑在多卡集羣上的模型，最少一張推理顯卡、乃至內存充足的本地機器也能跑起來。