Demis 谈前沿 AI 治理框架

Don't Worry About the Vase (Zvi) · rss · 2026-07-19

这篇长文围绕 Demis Hassabis 的文章《A Framework for Frontier AI and the Dawning of a New Age》展开，作者先总结其主张：AI/AGI 影响会远超互联网和移动互联网，可能带来类似电力或火的历史级变革，因此需要在前沿模型上建立更强的治理框架。

文章重点讨论了他提出的方案：设立一个类似 FINRA 的“前沿 AI 标准机构”，在美国政府框架下对 frontier labs 做技术评估、持续更新漏洞检查，并在必要时协调放缓研发。作者认为这比什么都不做要好，但仍远远不够，风险评估、内部部署、执行强制力等关键问题都还没解决。文中还引入了 MIRI、Anthropic、OpenAI、Microsoft 等人的不同反应，呈现出“技术加速已到关键时刻，但治理工具仍明显不足”的争论。