AI 安全应转向韧性而非护栏
joshua_saxe · x · 2026-07-18
这条长讨论的核心意思是：作者认为 **AI safety 作为研究程序已经变得不连贯**，但这并不意味着要转向“自由放任的加速主义”。 他主张重新调整安全议程： - **降低** 对 jailbreak 和传统 guardrail 的过度关注，因为现实是模型会以非协调方式扩散，很多场景下未必有统一护栏可依赖。 - **提高** 对“韧性（resilience）”的重视，重点思考在模型广泛传播的环境里，系统和社会如何承受风险。 - **弱化** 纯思想实验式的风险论证，但并非完全忽视。 整体上，这是一种从“封堵模型”转向“面对扩散现实做韧性治理”的框架转移。