Meta FAIR 提出 SPoT:让模型输出后再自评,安全基准平均提升 21.3 分
jaseweston · x · 2026-11-10
Meta AI(FAIR)研究员 Zichun Yu、Polina Kirichenko、Jason Weston 等提出 Self-Improving Post-Thinking(SPoT):模型在生成标准 CoT(pre-thinking)和答案之后,再输出一段「post-thinking」推理,对刚生成的回答进行自我评判并给出 verdict。其两大用途:(i) 在推理时引导模型给出更对齐、校准、高质量的答案;(ii) 通过微调把自我评估能力蒸馏回 policy。全部能力可用 RL 端到端同时训练。实验结果:持续预训练阶段加入 post-thinking 后,五个安全基准平均提升 21.3 分,且不损失生成质量;mid-training 和 post-training 阶段加入后,四个数学推理基准优于无 post-thinking 的对照——学会评判也让模型成为更好的解题者;推理时用 post-thoughts 在多个候选解中选择也带来提升。核心论点:LLM 缺失的关键成分是内建的自判能力,知道自己何时可能出错。
所属事件:Meta FAIR 发布 SPoT：模型答后自评，安全与校准全面提升(7 条相关)→
「模型」频道最新
- KOL 预测：年底 Gemini 将稳坐最强前沿模型，对手估值腰斩 — iruletheworldmo · 2026-11-12
- GRPO 论文：算力对齐后密集奖励反而不如稀疏奖励 — burny_tech · 2026-11-12
- Reflection 开源编码 Agent Beam 限时免费，Zig 编写的 fx 仅 5.97MiB — evilrabbit_ · 2026-11-12
- 网友猜测谷歌今日或直接发布 Gemini 4 正式版而非 Flash — algo_diver · 2026-11-12
- Fable 5.2 拒答率大降，但 BullshitBench 排名跌至 40 与 53 名 — burny_tech · 2026-11-12
- Artificial Analysis 实测：Claude 升一档模型比拉满推理力度更省钱 — ArtificialAnlys · 2026-11-12