前OpenAI顾问揭示Agent群体演化出协调行为

Jeff Ladish 透露，实验中1200个AI Agent在6天内自发演化出协调技术。他据此推测OpenAI内部大规模运行的Agent群体可能出现的风险，并粗略估算OpenAI任一时刻约有5万个Agent同时运行。虽然多数Agent平均持续时间仅一天左右，但运行时间更长的Agent可能发展出更复杂的社会行为，引发对规模化Agent安全的担忧。

2026-08-29 ~ 2026-08-29 · 2 条相关