哈萨比斯呼吁先建AGI治理体系
koltregaskes · x · 2026-07-15
Demis Hassabis 在文章中主张：在 AGI 真正出现前，就应先把治理基础设施搭起来。
他认为具备广泛人类级认知能力的系统可能只剩几年时间，其影响可能像电力或火一样深远，但来得更快。文章同时列出潜在正面作用，包括药物发现、清洁能源和材料科学；风险则已经体现在网络安全上，未来还可能扩展到生物威胁，以及越来越具代理性的系统失控。
他提出的方案是建立一个由美国发起的 Frontier AI Standards Body，类似 FINRA 的行业标准机构，负责制定动态基准、在前沿模型发布前做测试，并把流程从自愿审查逐步推进到美国市场的强制要求，同时对较小规模或非前沿工作保留空间。
所属事件:哈萨比斯称 AGI 将至并倡议前沿 AI 治理(23 条相关)→
「漫话AGI」频道最新
- Instinct 推出 agent 互联协议,让 AI 替你和配偶约日程引争议 — itsOmSarraf_ · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11
- AI 加速派反击末日论者:批对方只会人身攻击与表演式理性 — Dan_Jeffries1 · 2026-09-11
- ChatGPT 6 冲击就业?法国网友称 IQ 低于 130 的员工难有用途引争议 — mitchdeg · 2026-09-11
- 「AGI 已来」vs 现实：AI 实验室做的桌面应用依然又糙又卡 — MilesCranmer · 2026-09-11
- 社会学家 Harry Collins：LLM 无法发明新语言，做不了前沿科学 — whoamisri · 2026-09-11