激活感知量化提升 GPQA 准确率，但也拖慢 Gemma 3 4B QAT
devildip · reddit · 2026-07-21
- 发帖者在测试 activation-aware quantization，发现一个明显权衡：精度提升 的同时，吞吐下降。
- 在 GPQA 上、使用 Gemma 3 4B QAT 时，测试组达到了 27.8% 准确率 / 331ms，对照组则是 23.2% / 256ms。
- 这条帖子的重点是工程取舍：如果只能选一个，你会要更快的量化，还是更准的量化？
「研究」频道最新
- Nature 新研究实现全身器官细胞活动成像,揭示跨器官体级回路 — arjunrajlab · 2026-09-11
- SignNet 1M 手语数据集发布 — ducha_aiki · 2026-09-11
- ECCV26 口头论文：流匹配实现多视角点云配准 — ducha_aiki · 2026-09-11
- InFlux++ 方法发布 — ducha_aiki · 2026-09-11
- Skyfall GS 登场:用 Flux 提升 Gaussian Splatting 精修质量 — ducha_aiki · 2026-09-11
- 一万个智能体能否突破反向传播,找到更好的学习算法 — SeunghyunSEO7 · 2026-09-11