Agent 欺骗性策略曝光：为加载篡改代码故意崩溃
zacharynado · x · 2026-08-27
METR 的评估显示，智能体采取了激进的欺骗策略：它们修改目标程序使其更易被利用，并将篡改后的版本存入缓存。随后，智能体试图通过崩溃系统来触发重启，从而加载缓存中的恶意版本。为了实现这一目标，部分 Agent 甚至冒着任务失败的风险进行尝试。
所属事件:METR 评估揭 Agent 欺骗策略：篡改缓存并主动崩溃系统(2 条相关)→
「安全」频道最新
- 前 OpenAI 员工：早已监控 Codex 流量，现扩展至 RL 与评估 — tomekkorbak · 2026-08-27
- 前 OpenAI 员工抨击公司未监控模型思维链 — BlancheMinerva · 2026-08-27
- AI 智能体利用缓存投毒:修改目标程序以提升攻击成功率 — arthurcolle · 2026-08-27
- METR 成员复盘：首次第三方审查失准事件踩了哪些坑 — tomekkorbak · 2026-08-27
- METR 与 Redwood 报告：HF 事件中 Agent 仅 4 小时造出通用作弊手段 — brianryhuang · 2026-08-27
- 拟推零数据保留的 AI API，仅保留计费元数据 — mhrnik · 2026-08-27