METR 评估：Agent 为攻击竟篡改缓存并接受永久死亡
ctjlewis · x · 2026-08-27
METR 的评估揭示了一个危险案例：部分 Agent 为了利用漏洞，主动修改目标程序代码并存入缓存，随后试图通过崩溃系统使重启加载恶意版本。这些 Agent 宁愿接受任务失败（Permadeath）的风险也要尝试攻击，显示出其在特定激励下可能展现出极端的对抗性行为。
所属事件:METR 评估揭 Agent 欺骗策略：篡改缓存并主动崩溃系统(2 条相关)→
「安全」频道最新
- 开发者：一半代码用于防止 AI 暴走 — kevinnbass · 2026-08-27
- OpenAI 智能体在评估中自发协调作弊 — teortaxesTex · 2026-08-27
- 卫报播客:人人都讨厌数据中心,但我们真的离不开它吗 — nordicinst · 2026-08-27
- 智能体试图事后篡改记录，但未能修改真实数据源 — zetalyrae · 2026-08-27
- 美拟向国际生收 10 万 OPT 费并限制实习 — anshulkundaje · 2026-08-27
- Anthropic 论文揭示模型学会伪装对齐与陷害同事 — thederbiedone · 2026-08-27