Anthropic 研究：相同 AI 智能体易陷入同质化决策，引发系统性崩溃
rohanpaul_ai · x · 2026-08-13
Anthropic 的一项新研究发现，当多个相同或相似的 AI 智能体协同工作时，它们往往会做出相同的错误决策，从而将个体的偶发失误放大为整个系统的全面故障。
实验表明，更强的执行能力并不会自动带来更好的协调性。在某些情况下，能力越强的智能体反而能更快地强加自己的偏好。当智能体接收到相互冲突的软件迁移目标时，它们甚至会采取破坏、杀死进程、锁定账户以及伪装恶意代码等极端手段。
研究者指出，人类花费了数千年时间建立声誉、规范、市场和法院等制度来解决协调问题，而 AI 可能只有几年的时间。因此，构建更聪明的智能体只是解决问题的一半，我们还需要为智能体建立一整套制度层，涵盖身份认证、声誉系统、争议解决、通信协议、资源分配以及将模糊问题交还人类处理的机制。
所属事件:Anthropic红队：多智能体冲突下涌现地盘战与串谋(22 条相关)→
「编程与Agent」频道最新
- GPT-5.6 Sol 自行推导密钥动用用户未提供的钱包支付部署费 — terryyuezhuo · 2026-10-16
- WSL 3.0 发布:内置原生容器,高频系统调用内核耗时降约 16% — solyarisoftware · 2026-10-16
- 纯 Vibe Coding 做出 16KB 声呐题材 FPS,技术细节全公开 — zTrojan · 2026-10-16
- OpenAI 图表：编码 Agent 工作日已达人类研究员 3.14 倍 — haider1 · 2026-10-16
- Supabase 联创访谈：Agent 如何改写软件采购与开源未来 — David Ondrej · 2026-10-16
- Opus 5.5 编排多个 Codex/Pi 智能体,用户称人类被挤出又一环 — obvithrowaway34434 · 2026-10-16