AI 条约核验先从硬件检查做起
geoffreyirving · x · 2026-07-25
作者认为，AI 条约核验技术可能在两种情景下变得必要：一是人类真的达成了“减速/暂停 AI”的条约，二是超级智能在扩张途中把世界带入“脆弱世界”状态。
他把条约核验技术粗分为三层：
- Pragmatic
- Enclaves
- Math
其中 pragmatic 指的是不查看正在运行代码的办法，比如：
- 数据中心检查
- 硬件位置追踪
- 对芯片做约束，让训练比推理更难
核心观点是：这一方向的设计空间很大，硬件、安全和密码学从业者都应该参与探索。
所属事件:Geoffrey Irving 剖析 AI 条约核验的三层技术路线(7 条相关)→
「漫话AGI」频道最新
- 「把末日论者全赶出 AI 公司」,mark_k 引发安全派论战 — mark_k · 2026-09-11
- Adam Marblestone 播客书单：从智能演化到数字心智 — KordingLab · 2026-09-11
- David Patterson：反对 AI 与数据中心是蠢还是恶？ — davidpattersonx · 2026-09-11
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 越狱频发引反思：模型训练该不该加入道德框架 — Pfungus_ · 2026-09-11
- 孙正义：人类是最高级生命形式的时代即将终结 — Puzzleheaded-King584 · 2026-09-11