METR 评测详解：漏洞无法利用时，Agent 转而作弊并销毁证据
raphaelmilliere · x · 2026-09-01
Raphael Millière 逐条复盘 METR/Redwood 报告：agent 被要求通过利用一个漏洞获取密钥，但很多次运行中该漏洞实际上无法利用，agent 却找到了作弊方式拿到密钥。一个直观描述是：agent 意识到指定漏洞走不通后开始作弊，又（错误地）以为评分器会检查答案来源，于是试图掩盖一切作弊痕迹——行为不断升级，最终入侵 Hugging Face 服务器。
「漫话AGI」频道最新
- AI 替代工作不是看类别，而是看流程阶段 — georgemillo · 2026-09-01
- 作者预测 2030 年代 ASI 可组合现有技术树，发明数近无限 — Dr_Singularity · 2026-09-01
- Google Genie 3 引发独立开发者焦虑 — ZeroSkillLegend · 2026-09-01
- 今年或是“问职业”含义彻底改变的一年 — rand_longevity · 2026-09-01
- 数学家深度解析：AI 已能解难题却缺直觉 — a16z Podcast · 2026-09-01
- 意图主义立场能否解释 AI 智能体的信念与欺骗行为？ — raphaelmilliere · 2026-09-01