模型安全不能脱离现实上下文
joshua_saxe · x · 2026-07-16
转发内容认为，谈模型安全时不能只在“理想化的系统图”里讨论。 核心论点是： - 模型确实存在于上下文中，而不是脱离环境的抽象体。 - 从纯计算机科学角度看，很多问题“可建模”；但一旦进入现实碰撞，真正难的是软件工程与复杂环境交互。 - 因此，**模型安全**可以是“深度防御”的一层，但不可能成为唯一目标，也不可能覆盖所有复杂场景。
joshua_saxe · x · 2026-07-16
转发内容认为，谈模型安全时不能只在“理想化的系统图”里讨论。 核心论点是： - 模型确实存在于上下文中，而不是脱离环境的抽象体。 - 从纯计算机科学角度看，很多问题“可建模”；但一旦进入现实碰撞，真正难的是软件工程与复杂环境交互。 - 因此，**模型安全**可以是“深度防御”的一层，但不可能成为唯一目标，也不可能覆盖所有复杂场景。