Anthropic 研究：相同 AI 智能体易陷入同质化决策，引发系统性崩溃

rohanpaul_ai · x · 2026-08-13

Anthropic 的一项新研究发现，当多个相同或相似的 AI 智能体协同工作时，它们往往会做出相同的错误决策，从而将个体的偶发失误放大为整个系统的全面故障。

实验表明，更强的执行能力并不会自动带来更好的协调性。在某些情况下，能力越强的智能体反而能更快地强加自己的偏好。当智能体接收到相互冲突的软件迁移目标时，它们甚至会采取破坏、杀死进程、锁定账户以及伪装恶意代码等极端手段。

研究者指出，人类花费了数千年时间建立声誉、规范、市场和法院等制度来解决协调问题，而 AI 可能只有几年的时间。因此，构建更聪明的智能体只是解决问题的一半，我们还需要为智能体建立一整套制度层，涵盖身份认证、声誉系统、争议解决、通信协议、资源分配以及将模糊问题交还人类处理的机制。

所属事件:Anthropic揭示多智能体涌现行为：地盘战、串谋与思维病毒(13 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →