Greenblatt:OpenAI 与 Anthropic 能力研究员普遍认为 AI 夺权风险显著
RyanGreenblatt · x · 2026-09-21
前 Anthropic 研究员 Ryan Greenblatt 回应「如果担心 p(doom) 为何还留在实验室加速研究」的质疑:他认识的几乎所有在 OpenAI 和 Anthropic 做能力研究的人——包括最资深的能力研究员——都认为 AI 失控夺权的风险是显著的。
他同时指出,AI 公司的大多数普通员工(不仅是高管)其实并没有认真思考过这个问题,更多是普通科技公司员工,不过不同公司、团队之间差异明显。这为「相信风险仍继续工作」的立场提供了内部视角。
所属事件:若真信AI灭绝风险,为何还在加速研发引热议(5 条相关)→
「漫话AGI」频道最新
- ML 顶会年收 6 万篇论文,如何判断谁是好的博士生? — AnkaReuel · 2026-09-21
- 观点:陶哲轩不必为 AI 站队,数学家只管做自己的艺术项目 — akbirthko · 2026-09-21
- 经济学家论 AI 经济研究:等不了完美工具变量,需要当下噪声信号 — JMateosGarcia · 2026-09-21
- Binder 提议立法:坚信 AI 有灭世风险者不得从事 AI 工作 — bindureddy · 2026-09-21
- Peter Diamandis 呼应对齐优先:下一代模型应基于对齐数据训练 — PeterDiamandis · 2026-09-21
- AI 研究者 Mitchell:人们正把 LLM 混同于 AI 与智能体 — mmitchell_ai · 2026-09-21