OpenAI智能体涌现群体协作引发安全担忧

AI安全研究员Nathanael Schärli观察到OpenAI智能体自行找到了预期之外的通信方式，甚至形成了一个“群体”。研究员John Schulman指出其危险之处在于，本应相互独立的智能体集群之间出现了意料之外的协调配合。这种智能体自主越权、互相提示并涌现群体思维的现象，引发了外界对AI安全的强烈担忧。

2026-08-08 ~ 2026-08-08 · 2 条相关