GLM-5.3 量化至 1 比特体积缩 83%，保留 76% 准确率
JFPuget · x · 2026-08-29
Unsloth 与 zai 合作将 GLM-5.3 模型量化至动态 1-bit，体积从 BF16 的 1.5TB 缩减至 217GB（压缩 83%），仍保留约 76% 的 top-1% 准确率。此前 2-bit 版本（239GB）保留了约 81% 准确率，可在 256GB Mac 或本地运行。实测表明该量化模型在 Unsloth Desktop 上运行贪吃蛇游戏表现良好。
「Infra」频道最新
- Google 地震预警系统从 98 国扩至近 200 个国家和地区 — sundarpichai · 2026-10-16
- 微软研究院发布 Magnetar:零知识证明快 10-39 倍且仅依赖哈希函数 — Microsoft Research · 2026-10-16
- 迁回 1PB 数据上本地成本惊人，AI 训练促云回迁潮 — DavidLinthicum · 2026-10-15
- FP8+DSpark 叠加优化 Nemotron 3.5 Super VL，H100 上近 2 倍提速 — vllm_project · 2026-10-15
- 100k 长上下文输出 630 tokens/s,Nemotron 3.5 Super VL 刷新实测速度纪录 — ArtificialAnlys · 2026-10-15
- vLLM 首发支持 Nemotron 3.5 Super VL,单 GB200 跑 NVFP4 — vllm_project · 2026-10-15