AI安全不应只靠模型护栏，需转向生态防御

evijit · x · 2026-07-31

近期频发的安全事件暴露出，仅依赖模型层面的安全护栏无法实现整体的 AI 安全。作者指出，必须假设恶意行为或系统未对齐导致的破坏已在大规模智能体中发生。单纯增加限制或削弱模型能力会适得其反，对防御方的限制往往大于对攻击方的限制。因此，AI 安全研究应投入更多精力探索稳健的防御机制，从单纯的模型安全转向更严谨的生态系统安全。