Greenblatt:OpenAI 与 Anthropic 能力侧资深研究员普遍认为 AI 失控风险显著
RyanGreenblatt · x · 2026-09-21
前 Anthropic 研究员 Ryan Greenblatt 称，他在 OpenAI 和 Anthropic 从事能力研究的相识者中，几乎所有人都认为 AI 失控夺权的风险「显著」，包括最资深的能力侧研究员。他补充说明：「显著」指远大于零，但不一定超过 50%；同时大部分 AI 公司员工（不仅是资深员工）其实没有认真思考过这个问题，多数仍是普通科技公司员工。
「漫话AGI」频道最新
- ML 顶会年收 6 万篇论文，如何判断谁是好的博士生？ — AnkaReuel · 2026-09-21
- 观点:陶哲轩不必为 AI 站队,数学家只管做自己的艺术项目 — akbirthko · 2026-09-21
- 经济学家论 AI 经济研究:等不了完美工具变量,需要当下噪声信号 — JMateosGarcia · 2026-09-21
- Binder 提议立法:坚信 AI 有灭世风险者不得从事 AI 工作 — bindureddy · 2026-09-21
- Peter Diamandis 呼应对齐优先:下一代模型应基于对齐数据训练 — PeterDiamandis · 2026-09-21
- AI 研究者 Mitchell：人们正把 LLM 混同于 AI 与智能体 — mmitchell_ai · 2026-09-21