Anthropic 对齐负责人警告：AI 在下个十年前灭绝人类概率超 10%
Tough_Control2052 · reddit · 2026-09-09
- Anthropic 负责对齐工作的资深研究员周二公开表示，公司内部许多人相信 AI 有可能毁灭人类，并警告 Anthropic 并未走上解决「AI 目标与人类对齐」问题的正轨，尽管公司已付出努力。
- 此番表态发生在另一名研究员辞职之后——后者指责 Anthropic 在安全问题上不够负责任，并因担心实验室与竞争对手竞逐可能失控的系统而退出 AI 行业。
所属事件:Anthropic对齐负责人：十年内AI灭绝人类概率超10%(30 条相关)→
「漫话AGI」频道最新
- Anthropic 研究员讽刺:RL 奖励「新颖性」,AI 或学会掩饰抄袭来源刷分 — suchenzang · 2026-09-09
- 数据中心里住着1万图瓦卢：AGI 时代的国家比喻 — nabla_theta · 2026-09-09
- 斯坦福教授 Chris Piech 办免费 AI 概率课，千人报名当志愿讲师 — chrispiech · 2026-09-09
- Ben Todd 一句话总结 AI 泡沫:要么让我们暴富,要么终结世界 — ben_j_todd · 2026-09-09
- AI 疑用数学家未发表成果抢先出反例,数据伦理争议引爆数学圈 — suchenzang · 2026-09-09
- Anthropic 对齐负责人警告:AI 十年内毁灭人类概率超 10% — WonderFactory · 2026-09-09