离线合成评分细则+多轮精修:一种缓解奖励黑客的做法
stochasticchasm · x · 2026-09-22
发帖人讨论一种缓解 reward hacking 的训练做法:评分细则(rubrics)先离线合成,再用于打分,之后再进行精修迭代。作者指出这一流程的 grading 计算开销可观,并提示还有不少可扩展方向——比如把每个环节做成 agentic、增加更多精修循环等。展示了用计算换评分可靠性的思路。
所属事件:用可验证奖励与离线评分细则改进模型训练(3 条相关)→
「编程与Agent」频道最新
- Simonw 提出「决策模型」新类别：evals 比 LLM 项目更重要 — HamelHusain · 2026-09-22
- 吴恩达团队开源 OpenWorker:本地运行的桌面 AI 同事 — tom_doerr · 2026-09-22
- 可穿戴吊坠+语音转写:开发者畅谈无屏幕 AI 工作流 — EricBuess · 2026-09-22
- 开源 Office 引擎 Univer 发布 Office Harness,为 AI Agent 提供共享办公运行时 — Aiden_Tech_Ai · 2026-09-22
- Jev Workflows 0.3 RC 开源:Codex 插件管决策、诊断失败、核验完成度 — BLUECOW009 · 2026-09-22
- 开源 MCP 服务器可搜 npm 包、查体积并扫描安全漏洞 — modelcontextprotocol · 2026-09-22