腾讯 Hy4 量化至 200GiB,770B 模型精度几无损
TencentHunyuan · x · 2026-08-30
腾讯混元 Hy4-preview (770B MoE) 通过 MIX-STQ10 技术从 1.5TB 压缩至约 200GiB GGUF,压缩比达 7 倍。该方法非统一低比特,而是将比特宽度视为分配问题,根据校准数据为每层选择不同精度(1.31-bit 至 2.06-bit)。在 MCP Atlas、SWE-Bench 等基准测试中,量化后模型精度相比 BF16 几乎无崩溃或显著下降。
所属事件:混元 Hy4-preview 官方 1-bit 量化:1.5TB 压至 200GiB(5 条相关)→
「Infra」频道最新
- SGLang Day-0 支持 FLUX 3 Image Klein:单图 10 参考图,BF16/FP8/NVFP4 多精度 — ying11231 · 2026-10-16
- 英伟达 Nemotron 3.5 Super VL 上线 CoreWeave:12B 激活参数多模态 MoE,输入仅 $0.25/百万 tokens — wandb · 2026-10-16
- 2026 晶圆厂设备支出上调至 1530 亿美元,设备周期被拉长 — BenBajarin · 2026-10-16
- Steam 更新实测 5.23 秒启动反超 Epic,网友调侃 vLLM 该加入「启动时间大战」 — AlpinDale · 2026-10-16
- Shadeform 预告下周一发布六项新功能:降 GPU 成本、扩算力来源 — _jaydeepkarale · 2026-10-16
- Fastino 推出后训练 API:兼容 Tinker SDK,成本降 25%-85% — kalyan_kpl · 2026-10-16