激活感知量化提升 GPQA 准确率,但也拖慢 Gemma 3 4B QAT
devildip · reddit · 2026-07-21
- 发帖者在测试 activation-aware quantization,发现一个明显权衡:精度提升 的同时,吞吐下降。
- 在 GPQA 上、使用 Gemma 3 4B QAT 时,测试组达到了 27.8% 准确率 / 331ms,对照组则是 23.2% / 256ms。
- 这条帖子的重点是工程取舍:如果只能选一个,你会要更快的量化,还是更准的量化?
「研究」频道最新
- Chelsea Finn:机器人 RL 的瓶颈是物理 rollout 成本 — ycombinator · 2026-07-27
- ICML 2026 口头论文复现分数重算后仍偏中等 — profjamesevans · 2026-07-27
- 长周期智能体最终需要不可变事件日志 — sebpaquet · 2026-07-27
- Seed IQ 在 Doom II 里通关,引出 ARC-AGI 之后的评测问题 — Fit_Transition8824 · 2026-07-27
- 实测智能体数据科学工作流:代码能跑但常答错问题 — hugobowne · 2026-07-27
- 一份横跨 ML、系统、NLP 与音频的经典论文清单 — deliprao · 2026-07-27