Anthropic 能力团队成员:AI 有中等概率致人类灭绝
nabla_theta · x · 2026-09-11
一位 Anthropic 员工公开表示,以个人身份认为 AI 给人类带来中等程度的灭绝风险。他坦言自己在能力(capabilities)团队工作,理由是认为 Anthropic 是业内最负责任的参与者,加入这里的动机就是降低灭绝风险、让未来朝好的方向发展。
对此有人回应建议他考虑转向安全(safety)方向,折射出 AI 圈关于「在能力团队内部降险」还是「专职做安全」的常见争论。
所属事件:Anthropic 能力团队员工：AI 有中等概率致人类灭绝(2 条相关)→
「漫话AGI」频道最新
- 前 Anthropic 研究员 Jacob Coxon 登 Fox News 警告 AI 危险性 — MickeySteamboat · 2026-09-11
- 学者讽高校 STEM 教育:刻意让学生对 AI 技术一无所知 — RexDouglass · 2026-09-11
- 多个公司逼近 AGI 时，对齐的 AI 会不会先关掉竞争对手的 AI？ — Diligent-Buy-5428 · 2026-09-11
- AI 实验室研究者真的怕灭绝吗?更怕的是慢下来输掉竞赛 — Yuchenj_UW · 2026-09-11
- 哲学家 Tyler John 呼吁学者:别再窝在小众题目上,赶紧解决真实 AI 问题 — RishiBommasani · 2026-09-11
- AI 冲击成熟行业:既是威胁也是机会的观望视角 — NickPassig · 2026-09-11