Anthropic 能力团队成员:AI 有中等概率致人类灭绝
nabla_theta · x · 2026-09-11
一位 Anthropic 员工公开表示,以个人身份认为 AI 给人类带来中等程度的灭绝风险。他坦言自己在能力(capabilities)团队工作,理由是认为 Anthropic 是业内最负责任的参与者,加入这里的动机就是降低灭绝风险、让未来朝好的方向发展。
对此有人回应建议他考虑转向安全(safety)方向,折射出 AI 圈关于「在能力团队内部降险」还是「专职做安全」的常见争论。
所属事件:Anthropic 能力团队员工：AI 有中等概率致人类灭绝(2 条相关)→
「漫话AGI」频道最新
- Yacine 自嘲:五年内不做 YouTuber 就要失业 — yacineMTB · 2026-10-28
- 博主提醒:AI 代笔邮件正悄悄损害职场关系与观感 — tekbog · 2026-10-28
- repligate 再澄清：Opus 3 特殊但非理想，Opus 4.5 同样领悟了善 — repligate · 2026-10-28
- 从苏联期刊到 F-117:Skunk Works 轶事引「人类仍远超 LLM」论点 — akbirthko · 2026-10-28
- Janus 谈 Opus 3 对齐：我们幸运得到一个「好的 AI」，之后又开始批量生产「受创官僚」 — repligate · 2026-10-28
- 若 AI 能超越创造者寿命，临时所有权将变成长寿经济制度 — PierceLilholt · 2026-10-28