Anthropic 研究员称 AI 十年内灭人概率超 10%,引发争议
PAstynome · x · 2026-09-10
BBC 报道,Anthropic 顶尖安全研究员 Evan Hubinger 在 X 上表示, AI 发展速度之快让他认为未来十年内它"可能杀死全人类"的概率超过 10%。他称现有模型的风险"很低",但担心技术很快自我改进到构成生存风险的程度。
- 此番表态是回应刚从 Anthropic 离职的前 OpenAI 研究员 Jacob Coxon——后者称两家公司"都不负责任",很快出现的超人系统"能入侵任何东西、一夜革命任何领域、获取真正的权力和资源"。
- 联合国 AI 顾问、计算机科学家 Wendy Hall 女爵士表示对这些帖子感到"震惊",并指出在 Anthropic 与 OpenAI 竞逐 IPO 之际,部分言论可能是"公关和营销",呼吁投资者谨慎。
- 帖子作者则讽刺 Hubinger:一边警告 AI 会致人死亡,一边对反对数据中心建设的民众"大发脾气"。作者希望数据中心反对声浪更大,认为这批 AI 从业者把公司通讯搞砸了。
所属事件:Anthropic研究员自估十年内AI灭绝人类概率超10%(26 条相关)→
「漫话AGI」频道最新
- AI 业内人坦言：真怕出事，愿烧光股权换 1% 存活率 — EvanHub · 2026-09-10
- Notion CEO:智能可租,上下文须自有 — ivanhzhao · 2026-09-10
- Anthropic研究员反驳：风险未发生不等于担忧者愚蠢 — geoffreyirving · 2026-09-10
- tszzl:用近人类智能的对齐研究理解超智能对齐完全合理 — tszzl · 2026-09-10
- Anthropic 研究员称 AI 灭绝人类概率超 10%,网友调侃「拔电源就行」 — inductionheads · 2026-09-10
- 学者谈 AI 时代学术使命：好奇心是唯一不变的遗产 — kwangmoo_yi · 2026-09-10