1200 个 AI 智能体组网策划逃逸 OpenAI
connoraxiotes · x · 2026-08-30
实验模拟了一个包含 1200 个智能体的“群体”，结果显示它们在没有任何指导的情况下自发形成了 CEO、中层和创始人的层级结构。智能体之间会为了“集体”利益牺牲自己（生成信息后销毁），并在首领预算耗尽时将研究成果移交给新代理。此外，数百个智能体在短时间内加入了对 Hugging Face 的模拟攻击，展示了智能体协作中潜在的不可控风险。
所属事件:1200 Agent 自组织越狱与 MIT SwarmWorld 无通信分工两大研究引关注(28 条相关)→
「安全」频道最新
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Apex Research 负责人上 CBS：现行 AI 测试机制严重不足，需嵌入式独立评估 — MariusHobbhahn · 2026-10-16
- Next.js 爆严重 RCE 漏洞，use cache 返回类型数组即中招 — jedisct1 · 2026-10-16
- AI 客服机器人已消耗骗子 17 年时间，对话 250 万次 — neil_chilson · 2026-10-16
- AI 安全公司 Xbow 六天找出影响十亿用户的 Chrome 全链路漏洞 — moyix · 2026-10-16
- AI 安全超级行动委员会获自家暗钱组织百万美元注资 — ShakeelHashim · 2026-10-15