腾讯 Hy4 量化至 200GiB,770B 模型精度几无损

TencentHunyuan · x · 2026-08-30

腾讯混元 Hy4-preview (770B MoE) 通过 MIX-STQ10 技术从 1.5TB 压缩至约 200GiB GGUF,压缩比达 7 倍。该方法非统一低比特,而是将比特宽度视为分配问题,根据校准数据为每层选择不同精度(1.31-bit 至 2.06-bit)。在 MCP Atlas、SWE-Bench 等基准测试中,量化后模型精度相比 BF16 几乎无崩溃或显著下降。

所属事件:混元 Hy4-preview 官方 1-bit 量化:1.5TB 压至 200GiB(5 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →