DeepMind 安全研究员 Irving：AI 行业严谨度正卡在安全等级金字塔最底层

geoffreyirving · x · 2026-10-24

DeepMind 安全研究员 Geoffrey Irving 发布长推串，讨论 AI 风险话题中常见的落差：AI 实验室的方法不够严肃，而航空、核电、AI 芯片等更成熟行业有一整套更严格的工程标准。他把安全等级按论证严谨度划出层次——从「草率的经验验证」到「无条件的形式化证明」，并判断当前 AI 行业整体运行在最底层。

转发者、数学家 Jacob Tsimerman 强调：公众应当明白，要求更高严谨等级是社会力所能及的事——最危险的技术理应接受最高标准，且存在大量介于现状与完全形式化之间、远好于当下的中间严谨标准。