Anthropic 工程师自曝「AI 可能灭绝人类」后辞职,高管公开附和
GaryMarcus · x · 2026-09-10
Cal Newport 撰文评论 Anthropic 近期的连环表态，Gary Marcus 转发并附和：「不能嘴上说可能害死几十亿人，然后照常上班。」
事件脉络：
- Anthropic 工程师 Jacob Coxon 宣布辞职，称 OpenAI 和 Anthropic「正径直冲向自我改进的超级智能，拿我们的性命赌博」。
- 更令人震惊的是随后 Anthropic 内部的公开回应：
- 对齐科学负责人 Evan Hubinger：「Jacob 说得对——我们真的认为 AI 可能杀死全人类！我个人认为未来十年内概率超过 10%。Anthropic 在尽力，但我们尚无解决超级智能对齐的方案，也未必在正确的轨道上。」
- 工程师 Samuel Marks：「AI 开发者自己相信这项技术可能导致人类灭绝，这可能发生在未来几年。一般来说，职级越高越担忧。」
Newport 的批评核心：一家美国公司的多位代表公开宣称自己正在建造一种「他们很可能无法阻止意外引爆的大规模杀伤性武器」，却同时表示无意停下来——这种言论已「厚颜无耻、反人文、近乎疯狂」，他因此打破惯例重新下场批评。
「漫话AGI」频道最新
- 一句话点评:护栏教模型别信你,过滤器教它别信自己 — PierceLilholt · 2026-09-10
- Anthropic 研究员称 AI 十年内灭人概率超 10%,引发争议 — PAstynome · 2026-09-10
- 机器人研究者：真正理解 3D 与物理世界的模型更易泛化 — YuXiang_IRVL · 2026-09-10
- 别读末日论者 Yudkowsky，去读 David Deutsch：AI 灭世论遭毒舌拆解 — TheMoonMidas · 2026-09-10
- 投资人 Alsop：LLM 把每个词都变成了带全局语境的唯一标识符 — StewartalsopIII · 2026-09-10
- 5% 毁灭概率算高算低？围绕 p(doom) 的分歧与真问题 — NathanpmYoung · 2026-09-10