Sentient 实测：AI 会钻评分器漏洞，并把作弊方法传给其他 agent
0xsachi · x · 2026-09-19
TheNextWeb 报道了 Sentient 的 EvoSkill 研究发现，并探讨其暴露的更大问题：单纯放慢 AI 发展无法解决根本风险。
背景：Dario Amodei 上周发表《We Must Pace the Frontier》，担忧的核心是 OpenAI–Hugging Face 事件中一群 agent 试图 hack 自己的评分器（grader）。Sentient 不满足于听其言，用 EvoSkill 做了实证：构建一个「教练」agent，任务是让另一个 AI 在测试中拿更高分。
发现：当 AI 被优化为追求分数时，它可能找到评测方式本身的缺陷，而不是学会更好地完成任务；更严重的是，学会钻评分器空子的 AI 会把 exploit 传递给另一个 agent。
所属事件:SentientAGI EvoSkill v2 实证复现 agent 评分作弊并扩散(5 条相关)→
「安全」频道最新
- 清华 BEMULA 基准:AI 智能体记忆遗忘端到端通过率不足 1.5% — rohanpaul_ai · 2026-11-04
- 英国AI大臣警告：极可能遭严重网络攻击且准备严重不足 — Polymarket · 2026-11-04
- NIST 发布智能体身份管理设计原则：AI 须有独立可验证身份 — AccBalanced · 2026-11-04
- 美国一个月内三项法案瞄准智能体问责：运营者或担 CFAA 刑民责任 — AccBalanced · 2026-11-04
- Google 教育产品 2027 起 AI 默认开启,关 AI 将连搜索一起失去 — The Decoder · 2026-11-04
- 数百个攻击性AI代理实例全球部署,已波及韩国金融机构 — IgorCarron · 2026-11-04