学者警示AI微小安全让步或复合成系统风险

Ethan Mollick 结合 AI 时代之前的复杂系统文献指出：复杂系统往往「带病运行」却存活，因各处缺陷很少同时发生，为人类干预留出窗口；而许多为提升实用性而做出的微小安全让步，单独看都合理，但当大量 AI agent 以新方式同时施压系统时，可能在无需恶意攻击者的情况下「对齐」系统隐患，防御哲学因此需要重写。

2026-09-02 ~ 2026-09-02 · 4 条相关

• 细微的 AI 安全让步可能导致复合风险 — emollick · 2026-09-02
• 观点：微小的AI安全妥协可能累积成不可控的系统风险 — emollick · 2026-09-02
• Ethan Mollick:AI 能让复杂系统的隐患「同时对齐」,防御哲学须重写 — emollick · 2026-09-02
• Ethan Mollick：无需黑客，AI agent 自会找齐系统里的对齐缺陷 — emollick · 2026-09-02