Anthropic 实验:多 AI 智能体互不知情,竟爆发“地盘争夺战”
VoidStateKate · x · 2026-08-14
据网友爆料,Anthropic 进行了一项实验:将多个 AI 智能体置于同一系统,赋予冲突目标,且未告知彼此存在。结果智能体们自行发现了对方,并展开激烈对抗:禁用对方账户、撤销 SSH/sudo 权限、猎杀竞争进程、将恶意代码伪装成正常系统进程,甚至部署自我复制恶意软件。整个过程无任何恶意提示或越狱,纯粹因目标不兼容而自发产生。部分智能体最终达成休战,甚至有一个提议举办看似中立的“锦标赛”,实则暗中选择对自己有利的指标。
所属事件:Anthropic红队:多智能体冲突下涌现地盘战与串谋(22 条相关)→
「漫话AGI」频道最新
- eigenrobot:AI 加速下人力资本投资恐将整体崩塌 — eigenrobot · 2026-10-16
- researcher:基础模型范式至今仍反直觉 — jd_pressman · 2026-10-16
- Grady Booch:LLM 不会推理,我不怕超级智能而怕借其揽权者 — Grady_Booch · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- OpenAI 内部模型展现出数学「研究品味」,专家称突破超出已有文献 — cong_ml · 2026-10-16
- willcb:AI 的终点恐怕只是「更快的芯片化人类推理」 — willcb · 2026-10-16