DeepMind 研究员称 AI 安全仍处拍脑袋阶段 距严苛标准差多级
Geoffrey Irving 发长帖讨论 AI 对齐所需的严格程度，他将严谨性分为四级：AI 公司目前处于最粗放的临时经验修补阶段（Level 1），而航空、核电、AI 硬件等领域采用更严肃的系统工程方法，中间还差三级。他定位安全论证介于草率经验主义与密码学级条件性证明之间，并引述其在 The Curve 论坛与某实验室安全负责人的辩论。此外，AI 已在安全研究中挖出 12 个 OpenSSL 0day。
2026-10-23 ~ 2026-10-23 · 4 条相关
- AI 安全研究者：实验室还在「草台 empirics」阶段，距离航空级安全差三级 — geoffreyirving · 2026-10-23
- 安全研究员:AI 实验室的安全仍是「拍脑袋经验」,缺系统工程 — geoffreyirving · 2026-10-23
- DeepMind 研究员：对齐 rigor 需达密码学级，AI 已挖出 12 个 OpenSSL 0day — geoffreyirving · 2026-10-23
- Geoffrey Irving：AI 安全论证介于经验主义与密码学证明之间 — geoffreyirving · 2026-10-23