Hassabis谈AGI风险与标准体制
Spiritual_Heron_5680 · reddit · 2026-07-15
帖子解读了 Demis Hassabis 的一篇长文，核心是他对 AGI 进展、风险和治理方式的判断。
主要观点包括：
- 他认为 AGI 可能在未来几年内到来，经济影响可能极其巨大，接近“发现电力或火”的级别；
- 当前模型已经带来真实的网络安全风险，生物和核风险也可能很快出现；
- 他说“没人能确定接下来会发生什么”，连专家之间也有明显分歧。
在治理建议上，他提出建立一个类似 FINRA 的 Frontier AI Standards Body：用持续更新的基准定义前沿模型，要求在部署前 30 天进行测试，并重点评估网络安全、生物威胁和欺骗行为等风险，希望把它发展成国际标准的基础。
所属事件:DeepMind创始人长文：AGI只剩几年，呼吁建独立监管(37 条相关)→
「漫话AGI」频道最新
- AI 视觉复刻产品时代，付费软件的护城河只剩服务与信任 — sujingshen · 2026-10-18
- Anthropic 借鉴律师谈判伦理，Claude 智能体 69 人无人工批准成交 186 单 — rohanpaul_ai · 2026-10-18
- Tim Sweeney：AI 将催生此前因成本不可能被开发的游戏黄金时代 — TinfoilTricorn · 2026-10-18
- 研究者提出:人类可能先解决 AI 对齐,再解决人与人对齐 — 3scorciav · 2026-10-18
- EigenGender：私企政变非默认结局，但值得认真防范 — EigenGender · 2026-10-18
- 写作教师自学 LLM 数学后破防:LLM 就是强化版自动补全 — Decent-Decision-9028 · 2026-10-18