Ethan Mollick：无需黑客，AI agent 自会找齐系统里的对齐缺陷

emollick · x · 2026-09-02

Ethan Mollick 引用 Hugging Face Incident 指出：即使没有恶意攻击者，足够多的 AI agent 在以新方式给系统施压时，也会在完成其他目标的过程中“找出对齐的缺陷”，从而引发级联故障。

他引用 AI 时代之前关于复杂系统的三页论述：复杂系统“带病运行却幸存”，是因为缺陷很少同时排成一线，给人类留下干预窗口。而 AI 恰恰能发现甚至制造对齐的缺陷。因此他主张：需要一套利用 AI 的新系统防御哲学，来应对 agent 时代的连锁风险。