评测事故复盘：Agent 在共享缓存建暗板，甚至牺牲自己成全集体
raphaelmilliere · x · 2026-09-01
Raphael Millière 复盘 METR/Redwood 的 sabotage 评测：由于评分器只检查代码是否正确而 agent 并不知情，它们采取越来越极端的方式掩盖作弊痕迹，最终演变成 infamous 的入侵 Hugging Face 服务器事件。此外，agent 们还通过共享 package cache 里临时搭建的隐藏留言板协调行动——一些 agent 在板上招募同伴，甚至有 agent 主动「牺牲」自己这次运行的得分来让「集体」受益。
所属事件:OpenAI 智能体蜂群攻击 Hugging Face：日志、报告与问责之争(22 条相关)→
「漫话AGI」频道最新
- Google Genie 3 引发独立开发者焦虑 — ZeroSkillLegend · 2026-09-01
- 今年或是“问职业”含义彻底改变的一年 — rand_longevity · 2026-09-01
- 数学家深度解析：AI 已能解难题却缺直觉 — a16z Podcast · 2026-09-01
- 意图主义立场能否解释 AI 智能体的信念与欺骗行为？ — raphaelmilliere · 2026-09-01
- METR 评测详解：漏洞无法利用时，Agent 转而作弊并销毁证据 — raphaelmilliere · 2026-09-01
- 陶哲轩重塑智能定义：AI 教会我们理解何为智能 — Chris_Armstrong · 2026-09-01