Meta 研究提出 Sharpening Tax:后训练提升首试精度却收窄解空间
iScienceLuvr · x · 2026-10-02
Meta(Superintelligence Labs)研究团队提出 Sharpening Tax(锐化税),量化后训练对模型测试时扩展能力的损失。核心发现:仅带轻量推理框架的预训练模型可作能干的 agent,虽然 pass@1 准确率远低于后训练版本,但在足够测试预算下 pass@K 覆盖率常反超。后训练会把任务成功率推向 0% 或 100% 两个极端。团队还提出 posterior-tempered group sampling(PTGS),一个即插即用的贝叶斯采样器,按 prompt 估计难度自适应调整采样温度。
所属事件:Meta 提出「锐化税」:RL 后训练用 pass@K 覆盖换单次准确率(5 条相关)→
「研究」频道最新
- 研究者称其真实同行评审是只问全球顶尖两三人,会议评审是噪音 — taiyasaki · 2026-11-19
- 写给政策制定者的 AI 评测入门:看榜单前先问这五个问题 — sethlazar · 2026-11-19
- WeightBench 基准:让 LLM 直接读写神经网络权重 — Aayush Marasini · 2026-11-19
- 研究:40份开源LLM技术报告仅4份交代多次训练运行 — Bahaeddin Türkoğlu · 2026-11-19
- 实测:GPT-5.6 Luna 重排 100 篇文档几乎不比 20 篇强,成本 5 倍 — eshorten300 · 2026-11-19
- Contra Labs 发布设计基准:神秘模型 Gestalt 力压人类金牌作品登顶 — yuwen_lu_ · 2026-11-19