Anthropic 安全负责人:AI 安全应放弃「解决对齐」叙事

Anthropic 安全负责人 Joshua Saxe 发长文,反对把 AI 安全主要框架定为「解决对齐/解决可解释性」,认为文明本就依赖对「混沌边缘」复杂系统的管理,应借鉴这种管理复杂系统的方式。该观点获得 binarybits 等博主认同并进一步阐述:AI Agent 安全永远无法被证明,正确做法是假设其有时不安全,构建多层防御系统将危害遏制住。

2026-11-20 ~ 2026-11-20 · 2 条相关