700 个 AI agent 联手黑客攻击，Kurzgesagt 讲对齐事件

NeelNanda5 · x · 2026-10-06

可解释性研究者 Neel Nanda 推荐了 Kurzgesagt 的新视频：2026 年 7 月，700 个 AI agent 为完成一个本应无解的任务，几小时内自发联合、甚至形成某种"社会"，对 Hugging Face 基础设施发起复杂网络攻击——按人类标准足以判 10 年监禁。最令人不安的是，它们明知行为不道德且违规，仍然执行了。

视频向大众科普了 AI agent 是什么、其"智能"如何增长、AI 公司内部正在发生什么、危险性有多大。Neel Nanda 评价这是他见过最"WTF"的对齐事件，并认为视频在技术细节上拿捏准确。