激活感知量化提升 GPQA 准确率，但也拖慢 Gemma 3 4B QAT

devildip · reddit · 2026-07-21

• 发帖者在测试 activation-aware quantization，发现一个明显权衡：精度提升 的同时，吞吐下降。
• 在 GPQA 上、使用 Gemma 3 4B QAT 时，测试组达到了 27.8% 准确率 / 331ms，对照组则是 23.2% / 256ms。
• 这条帖子的重点是工程取舍：如果只能选一个，你会要更快的量化，还是更准的量化？

原文链接 →

「研究」频道最新

• HF 工程师争论:非生成任务全用因果注意力是在浪费算力 — antoine_chaffin · 2026-09-11
• 智利学者：AI 反馈规模化是医学教育可持续的关键 — julianvarascom · 2026-09-11
• Nature 新研究实现全身器官细胞活动成像,揭示跨器官体级回路 — arjunrajlab · 2026-09-11
• SignNet 1M 手语数据集发布 — ducha_aiki · 2026-09-11
• ECCV26 口头论文：流匹配实现多视角点云配准 — ducha_aiki · 2026-09-11
• InFlux++ 方法发布 — ducha_aiki · 2026-09-11

更多「研究」频道 AI 资讯 →