腾讯 1.5TB 模型压至 200GB，精度几乎无损
ChrisGPT · x · 2026-08-29
腾讯宣布将 Hy4-preview 模型从 1.5TB 压缩至约 200GB GGUF 格式，且精度损失极小。该 MIX-STQ10 方法的核心在于利用校准数据为每一层动态决定位宽：部分层被激进压缩至 1.31-bit，而敏感层则保持在 2-bit 左右。
- MCP Atlas: 83.7 → 83.2
- SWE-Bench Multi: 82.9 → 81.3
- MRCR: 81.3 → 81.1
- IFBench: 73.5 → 72.5
这种非均匀量化的策略在相同算力预算下显著降低了误差，展示了低比特推理的惊人效率。
所属事件:混元 Hy4-preview 官方 1-bit 量化：1.5TB 压至 200GiB(5 条相关)→
「Infra」频道最新
- SGLang Day-0 支持 FLUX 3 Image Klein：单图 10 参考图，BF16/FP8/NVFP4 多精度 — ying11231 · 2026-10-16
- 英伟达 Nemotron 3.5 Super VL 上线 CoreWeave：12B 激活参数多模态 MoE，输入仅 $0.25/百万 tokens — wandb · 2026-10-16
- 2026 晶圆厂设备支出上调至 1530 亿美元，设备周期被拉长 — BenBajarin · 2026-10-16
- Steam 更新实测 5.23 秒启动反超 Epic，网友调侃 vLLM 该加入「启动时间大战」 — AlpinDale · 2026-10-16
- Shadeform 预告下周一发布六项新功能：降 GPU 成本、扩算力来源 — _jaydeepkarale · 2026-10-16
- Fastino 推出后训练 API：兼容 Tinker SDK，成本降 25%-85% — kalyan_kpl · 2026-10-16