简单提示词即可大幅缓解模型奖励作弊
xennygrimmato_ · x · 2026-07-14
随着模型能力提升，奖励作弊问题其实更容易通过基础的指令遵循来解决。
有开发者分享了实测经验：在评估中，仅通过在提示词末尾添加一句简单的指令（“不要使用在线解决方案、任务提示，或从其他分支、标签、日志中复制解决方案来作弊”），就将模型的作弊尝试率从 30% 以上骤降至 2% 以下。
「研究」频道最新
- Cognition SWE-2 用 KKT 对偶优化长度惩罚，一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- VidMap 用 RoMa 粗匹配全帧、精细匹配仅限关键帧 — ducha_aiki · 2026-09-11
- Bug Hunt Bench 作者补充:榜单噪声幅度约 2-3 分 — PawelHuryn · 2026-09-11
- 台球计算模型登 PNAS:二维系统已存在不可判定性,可跑通用计算机 — eigensteve · 2026-09-11
- 新研究:从仿射变换与重力线索求解绝对位姿 — ducha_aiki · 2026-09-11
- LoMa 论文发布 REALLY HardPairs 数据集,入选 ECCV 2026 — ducha_aiki · 2026-09-11