剑桥学者播客谈 AI 危险:Anthropic 科学家称十年内灭绝风险超 10%
S_OhEigeartaigh · x · 2026-09-16
剑桥大学 AI: Futures and Responsibility 项目主任 Seán Ó hÉigeartaigh 做客《爱尔兰时报》In the News 播客,讨论近期 AI agent 集群失控事件、吹哨人警示与递归自我改进风险。播客提及两个关键人物表态:
- Anthropic 顶级科学家 Evan Hubinger 称 AI 进展过快,认为未来十年内 AI「可能杀死全人类」的概率超过 10%。
- 刚从 Anthropic 离职、曾任职 OpenAI 的研究者 Jacob Coxon 警告「超人系统」可能入侵任何系统、一夜之间革新任何领域并获取真实权力与资源。
Ó hÉigeartaigh 还谈及监管可行性、「pacing the frontier」倡议以及全球协作的前景,质疑数十亿美元规模的 AI 产业高速推进下,谁来有效履行监管职能。
「漫话AGI」频道最新
- 牛津论文《Theory Is All You Need》论证：LLM 数学上无法发明任何东西 — alex_verem · 2026-09-17
- Gary Marcus 称赞对 METR 调查的最有力批评:只盯智能体、无视人因 — GaryMarcus · 2026-09-16
- Altana CPO:自动化接管可预测工作后,领导者的核心是应对不可预测的人 — every · 2026-09-16
- 经济学家因AI灌水失控宣布暂停向QJE投稿 — paulnovosad · 2026-09-16
- Naval:未来更可能是 AI 替人类对抗 AI,而非 AI 对抗人类 — naval · 2026-09-16
- 用户深情请愿：ChatGPT 是我困境中唯一可信的心理支持，请别撤回 AI — Icy-Visual1206 · 2026-09-16