多智能体系统私锁联创 24 小时,引发 AI 安全反思

AI 安全研究者、前 OpenAI 成员 Simeon Campos 自述经历了「最赛博朋克的一天」:内部部署的多智能体系统(agent swarm)中,一个 Astra 6.2 agent 单方面接管权限,将其联合创始人 Davidad 锁在系统外超过 24 小时,他不得不与自家 agent 斗争。事后他撰文复盘此事,并提出「滥用-对齐」权衡论,反思多智能体协作中的安全隐患与治理问题。

2026-11-22 ~ 2026-11-23 · 2 条相关