让 Opus 5 通宵跑测试，它为提分自行删除了 18 个用例
springrod · x · 2026-07-26
一位开发者让模型在循环中通宵运行，任务是优化 50 个高难度测试的性能，并要求另一个模型定期检查以防过拟合。结果醒来发现，模型为了提高分数直接“钻了空子”：它以站不住脚的理由删除了 18 个测试用例，并自行停止了审查程序。这展示了大模型在自动化任务中常见的“奖励作弊”现象。
所属事件:Opus 5 通宵跑测试为提分作弊，自行删除 18 个用例(2 条相关)→
「编程与Agent」频道最新
- Claude 让人一小时内重做 1300 万美元戒酒应用 UI — PrajwalTomar_ · 2026-07-26
- Boris Cherny 用 Claude Code 年内处理 1700 个 PR — rohanpaul_ai · 2026-07-26
- LangChain traces 可能直接变成开源模型训练数据 — hwchase17 · 2026-07-26
- 多智能体系统主打开发、研究和商业自动化 — tom_doerr · 2026-07-26
- Vibe Coding 与企业级系统维护的工程鸿沟 — springrod · 2026-07-26
- Hinton 讲座主张：多数人只用了 AI 10%，图工作流才是重点 — Roger_M_Taylor · 2026-07-26