Anthropic 安全负责人:AI 安全应放弃「解决对齐」叙事
Anthropic 安全负责人 Joshua Saxe 发长文,反对把 AI 安全主要框架定为「解决对齐/解决可解释性」,认为文明本就依赖对「混沌边缘」复杂系统的管理,应借鉴这种管理复杂系统的方式。该观点获得 binarybits 等博主认同并进一步阐述:AI Agent 安全永远无法被证明,正确做法是假设其有时不安全,构建多层防御系统将危害遏制住。
2026-11-20 ~ 2026-11-20 · 2 条相关
- Anthropic 安全负责人 Saxe:放弃「解决对齐」叙事,AI 安全应学文明管复杂系统 — binarybits · 2026-11-20
- AI Agent 安全无法被证明,需假设其不安全并构建多层防御 — binarybits · 2026-11-20