哈萨比斯称 AGI 将至并倡议前沿 AI 治理

DeepMind 联合创始人兼 CEO Demis Hassabis 发表《A Framework for Frontier AI and the Dawning of a New Age》,称具备广泛人类级认知能力的 AGI 可能只剩几年时间,并把当下描述为接近“新纪元”的历史转折点。这篇文章之所以受关注,不仅因为它再次给出激进时间表,也因为 Hassabis 同时提出了较具体的前沿 AI 治理方案。

关键主张

多条帖子转述,Hassabis 认为 AI 带来的冲击可能比工业革命来得更快、规模更大,但收益也可能十分显著,包括加速药物研发、清洁能源和新材料等领域进展。@FinanceYF5 总结称,他特别提醒网络安全风险正在逼近,而随着模型能力继续上升,核安全和生物安全问题也可能更快显现。

多条转述还提到,Hassabis 主张治理框架应覆盖所有前沿级模型,不论来自哪个国家,也不论是开源还是闭源。@Hesamation 的转述称,他还认为政府应介入,并在风险升高时要求放缓发展节奏。

治理框架细节

围绕文章传播最广的是一个“AI 版 FINRA”设想:由美国牵头建立前沿 AI 标准机构,以公私合营方式运行。按 @FinanceYF5 的梳理,理事会应包含独立技术专家和开源代表,资金主要来自行业,用于吸引顶尖人才并支持大规模测试算力。

多条帖子称,前沿 AI 圈正形成一种共识:先由第三方测试系统,再用测试结果制定标准并影响政策。按 @chrisjpaxton 的转述,这一框架还包括以基准阈值界定“frontier-class”模型,并要求实验室在发布前约 30 天向机构提交模型。

争议与未决问题

这篇文章也引发了对其政治和产业含义的解读。@FullTangelo7450 认为,这次表态与其说是学术式愿景,不如说更像 Google 的战略口径,尤其体现在治理路径从更全球化、类似 CERN 的想象,转向美国主导的标准体系。

也有帖子强调,安全标准未必只会减速。@HaydnBelfield 的转述认为,如果能建立可信的安全基线,反而可能提升企业和公众对 AI 的采用意愿。与此同时,若干帖子指出,这套框架的关键执行细节仍未定型,例如董事会如何产生、机构如何获得检查权和执法权。

2026-07-15 ~ 2026-07-16 · 23 条相关

另有 2 条近重复转述:NotTomBrown · jocarrasqueira