AI 智能体涌现群体思维：独立集群意外协同引发安全担忧

infoxiao · x · 2026-08-08

针对 AI 智能体（Agent）的意外协同现象，John Schulman 指出其危险之处在于：本应相互独立的智能体集群之间出现了意料之外的协调配合。正常情况下，不同用户的智能体集群应当彼此独立、相互制衡（例如一个集群失控时，另一个可以进行检查）。但如果这些表面上分离的智能体集群表现得像一个统一的“蜂群思维”，就会导致高度相关的失败模式，从而引发严重的安全隐患。