AI 条约核验先从硬件检查做起
geoffreyirving · x · 2026-07-25
作者认为，AI 条约核验技术可能在两种情景下变得必要：一是人类真的达成了“减速/暂停 AI”的条约，二是超级智能在扩张途中把世界带入“脆弱世界”状态。
他把条约核验技术粗分为三层：
- Pragmatic
- Enclaves
- Math
其中 pragmatic 指的是不查看正在运行代码的办法，比如：
- 数据中心检查
- 硬件位置追踪
- 对芯片做约束，让训练比推理更难
核心观点是：这一方向的设计空间很大，硬件、安全和密码学从业者都应该参与探索。
所属事件:Geoffrey Irving 剖析 AI 条约核验的三层技术路线(7 条相关)→
「漫话AGI」频道最新
- GiveDirectly 在卢旺达试点 AI 聊天机器人辅助现金援助 — NathanpmYoung · 2026-10-27
- 前 Anthropic 员工长文：公司优化的是「被视为好人」而非真正的善 — RichardMCNgo · 2026-10-27
- 投资人泼冷水:别信模型型号,真正的只有数据中心利润率 — StewartalsopIII · 2026-10-27
- WSJ 专栏：对押注 Anthropic 股份的投资者，10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27
- Simile 融资 3 亿美元估值 20 亿,用 AI 模拟真人预测行为,准确率超 85% — joon_s_pk · 2026-10-27