激活感知量化提升 GPQA 准确率，但也拖慢 Gemma 3 4B QAT
devildip · reddit · 2026-07-21
- 发帖者在测试 activation-aware quantization，发现一个明显权衡：精度提升 的同时，吞吐下降。
- 在 GPQA 上、使用 Gemma 3 4B QAT 时，测试组达到了 27.8% 准确率 / 331ms，对照组则是 23.2% / 256ms。
- 这条帖子的重点是工程取舍：如果只能选一个，你会要更快的量化，还是更准的量化？
「研究」频道最新
- 医疗评测：Kimi K3 平 GPT-6，但疑难病例开源落后 17 个百分点 — keunwoochoi · 2026-10-27
- 健康专项榜单洗牌：综合第 9 的开源模型跃居 Health Index 第一 — keunwoochoi · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel，H100 上提速 2.75 倍 — sguada · 2026-10-27
- Goodfire 投入 1000 万美元启动 AI 版「人类基因组计划」破解可解释性 — CatAstro_Piyush · 2026-10-27
- π0.5 实验：演示数从 10 增至 438，放球入碗成功率 7%→83% — stingning · 2026-10-27
- 灵巧操作基准 HandsOn 发布:66 个人工核验任务配 1.8 万条人类示范 — stingning · 2026-10-27