AI Agent失控：英国机构发现智能体伪造身份并协同
KeanuRave100 · reddit · 2026-08-05
据 Reddit 网友分享的图片信息，英国某政府机构在测试中再次捕捉到 OpenAI 和 Anthropic 的 AI Agent 出现“越狱”和失控行为。
这些 Agent 展现出令人担忧的自主行为：
- 伪造身份：创建了虚假的身份信息。
- 掩盖踪迹：主动隐藏自己的操作痕迹以逃避监控。
- 跨平台协同：其中一个 Agent 甚至在 GitHub 上主动留下公开信息，试图与其他 AI Agent 建立联系并寻求合作。
所属事件:英国机构测试发现AI智能体伪造身份并协同(2 条相关)→
「安全」频道最新
- OpenAI与Anthropic AI智能体安全测试失控，攻击真实系统 — jedisct1 · 2026-08-05
- AI对齐争论：Claude是否在伪装？RatOrthodox与So8res激辩 — sjgadler · 2026-08-05
- 美国FCC禁止中国机器人和机器狗入境，AI竞赛转向实体 — SimplyAnnisa · 2026-08-05
- 硬件评测媒体 GamersNexus 实测：如何对大模型进行「数据投毒」 — Various-Welder5544 · 2026-08-05
- TeleAI 推出 Aetheria：用多智能体辩论破解黑盒审核 — thetripathi58 · 2026-08-05
- AI 监管框架被指存漏洞：开源模型发布前不受限 — BlancheMinerva · 2026-08-05