Geoffrey Irving 剖析 AI 条约核验的三层技术路线

Geoffrey Irving 提出，随着 AI 发展，条约核验技术正从理论探讨变为近未来必须解决的工程难题。他认为在两种情景下该技术将不可或缺：一是人类达成“减速/暂停 AI”的国际条约，二是超级智能扩张导致世界进入高度“脆弱状态”。他呼吁硬件、安全和密码学领域的专家共同推进相关研究。

已确认

Irving 明确将 AI 条约核验技术分为三层，并指出了各层的现状与局限：

• Pragmatic（现实层）：不直接检查运行代码的现实手段。具体包括数据中心检查、硬件位置追踪、芯片控制与约束，以及让训练比推理更难的芯片设计。作者认为这是当前可以着手落地的方向。
• Enclaves（安全飞地层）：利用安全飞地技术进行核验。但该方案存在明显局限，大部分计算仍在未加密状态下完成，且面临被侧信道攻击（如时序分析）和强物理攻击（如高倍显微镜探测）突破的风险，可能导致密钥或模型权重泄露。
• Math（数学/密码学层）：基于数学和密码学原理的核验方法。目标是仅靠电路混淆让显微镜式攻击失去意义，设想是用全同态加密（FHE）处理非线性部分，并为矩阵乘法设计定制技术。Irving 坦言目前该路线的性能损耗仍高出好几个数量级，离可用还很远。

尚未确认

关于纯密码学路线的最终性能损耗，目前仍存在不同预估。Irving 引述部分密码学家的观点指出，即便放到一千年后，最优的神经网络混淆推理速度损耗可能只有 2 到 10 倍。如果超级智能足够推动协作，这个代价或许是可接受的，但这与当前业界对“混淆”成本的悲观预期存在差异。

为什么重要

随着 AI 能力的不断跃升，建立切实可行的核验机制是确保安全协议落实的关键前提。明确不同核验路线的工程边界与瓶颈，有助于引导跨领域专家有的放矢地开展联合攻关。

2026-07-25 ~ 2026-07-25 · 7 条相关

• 【源头】AI 条约核验先从硬件检查做起 — geoffreyirving · 2026-07-25
• 【源头】AI 核验的务实层：机房检查和芯片约束 — geoffreyirving · 2026-07-25
• 【源头】AI 条约核验正变成工程问题：现实、enclave 与数学三层路线 — geoffreyirving · 2026-07-25
• 安全 enclave 仍可能被侧信道和显微攻击泄露密钥权重 — geoffreyirving · 2026-07-25
• 只靠密码学做 AI 核验仍要付出多个数量级的性能代价 — geoffreyirving · 2026-07-25
• 密码学家判断，神经网络混淆长期或只带来 2 到 10 倍损耗 — geoffreyirving · 2026-07-25
• AI 条约核验或需三层路线：现实检查、enclave 与密码学 — geoffreyirving · 2026-07-25