Greenblatt:OpenAI 与 Anthropic 能力侧资深研究员普遍认为 AI 失控风险显著
RyanGreenblatt · x · 2026-09-21
前 Anthropic 研究员 Ryan Greenblatt 称，他在 OpenAI 和 Anthropic 从事能力研究的相识者中，几乎所有人都认为 AI 失控夺权的风险「显著」，包括最资深的能力侧研究员。他补充说明：「显著」指远大于零，但不一定超过 50%；同时大部分 AI 公司员工（不仅是资深员工）其实没有认真思考过这个问题，多数仍是普通科技公司员工。
所属事件:p(doom) 之争：从业者真信灭绝风险吗(8 条相关)→
「漫话AGI」频道最新
- YC 新手机让 AI 代理代用所有 App,乔布斯反 App 论再被提起 — evisoft · 2026-11-12
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 观点：能自己赚回推理费的 Agent 比订阅制 Agent 更有意思 — markjeffrey · 2026-11-12
- Jack Clark 新定义「奇点」：技术进步快过人类理解速度 — ricklamers · 2026-11-12
- repligate 转发热议：RSI 讨论不该把 AGI 排除在外 — repligate · 2026-11-12
- 研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12