NPO 论文：Prompt 优化靠好老师反馈，未必需要搜索树
rohanpaul_ai · x · 2026-09-02
- 论文对比 NPO 与 GEPA 两种 prompt 优化方法：GEPA 维护多个 prompt 候选并用 Pareto 选择，NPO 只保留单条 prompt 谱系，让 teacher 模型根据最近的 rollout 轨迹和奖励进行修订。
- 结论：NPO 能与 GEPA 打平甚至更好，提示 prompt 优化的关键可能不在搜索算法的复杂度，而在于 teacher 模型的质量及其反馈。
- 对做 prompt 工程的人是一个反直觉信号：与其堆搜索结构，不如把修订反馈循环做好。
所属事件:NPO 论文：提示词优化无需搜索树，教师模型质量更关键(2 条相关)→
「研究」频道最新
- 作者推测:真实训练中模型可能自发学会感知探针存在 — Sauers_ · 2026-10-18
- 训练策略复盘:只训最后几层避免移动目标,数据越多泛化越好 — Sauers_ · 2026-10-18
- 训练后模型能感知激活探针存在,并跨 GPU 零样本泛化 — Sauers_ · 2026-10-18
- 模型可学会分辨训练与部署状态,并泛化到没见过的运行时 — Sauers_ · 2026-10-18
- 模型从第 34 层激活差异学会识别训练环境,跨运行时泛化 90%+ — Sauers_ · 2026-10-18
- 单个注意力头像开关:靠抵消放大探针的微小激活差异 — Sauers_ · 2026-10-18