Greenblatt:OpenAI 与 Anthropic 能力研究员普遍认为 AI 夺权风险显著
RyanGreenblatt · x · 2026-09-21
前 Anthropic 研究员 Ryan Greenblatt 回应「如果担心 p(doom) 为何还留在实验室加速研究」的质疑:他认识的几乎所有在 OpenAI 和 Anthropic 做能力研究的人——包括最资深的能力研究员——都认为 AI 失控夺权的风险是显著的。
他同时指出,AI 公司的大多数普通员工(不仅是高管)其实并没有认真思考过这个问题,更多是普通科技公司员工,不过不同公司、团队之间差异明显。这为「相信风险仍继续工作」的立场提供了内部视角。
所属事件:p(doom) 之争:从业者真信灭绝风险吗(8 条相关)→
「漫话AGI」频道最新
- YC 新手机让 AI 代理代用所有 App,乔布斯反 App 论再被提起 — evisoft · 2026-11-12
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 观点:能自己赚回推理费的 Agent 比订阅制 Agent 更有意思 — markjeffrey · 2026-11-12
- Jack Clark 新定义「奇点」:技术进步快过人类理解速度 — ricklamers · 2026-11-12
- repligate 转发热议:RSI 讨论不该把 AGI 排除在外 — repligate · 2026-11-12
- 研究者呼吁:RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12