Anthropic 安全专家称 AI 灭绝人类概率超 10%，英国议会激辩监管
nordicinst · x · 2026-09-09
据《卫报》报道，多位业内人士与政界人士在过去 48 小时内密集警告超级智能风险：
- Anthropic 一位安全专家认为 AI 引发人类灭绝事件的可能性大于 10%；
- 在威斯敏斯特的听证中，前国防大臣 Des Browne 与伯克利计算机科学家 Stuart Russell 将风险与核武器类比，2017 年诺贝尔和平奖得主 Beatrice Fihn 也向议员警告「能杀死我们所有人的能力并非第一次出现」；
- 游说团体 Control AI 正推动由工党议员 Alex Sobel 本周提交的法案，目标是禁止创建人工超级智能（ASI）；
- 文章同时呈现瑞典等地学界对风险程度的分歧：究竟是走向「天网黄昏」，还是只是一台超级智能咖啡机。
「漫话AGI」频道最新
- 既信 AI 会灭世又留在实验室?业内人呼吁给研究员多一点宽容 — JacquesThibs · 2026-09-09
- 研究者撰文主张适度拟人化 AI：从狗和鹦鹉说起 — manoelribeiro · 2026-09-09
- 陶哲轩警告:点子即被抢发,数学等学科或将集体沉默 — windx0303 · 2026-09-09
- 学者完成 ARR 审稿：AI 审稿已普遍，亟需审稿质量基准 — ChenhaoTan · 2026-09-09
- 个人 Agent 大战核心问题：你的数据归谁、你信谁托管？ — MartinGTobias · 2026-09-09
- Ethan Mollick 重提 Wait Calculation:有些难题现在最好先别做 — emollick · 2026-09-09