DeepMind AGI 安全研究员 Josh Engels 离职转投 METR 做 evals
bigblueboo · x · 2026-09-14
前 Google DeepMind AGI 安全团队成员 Josh Engels 宣布三周前离职加入独立评测机构 METR。他在长文中解释：拒绝了 Anthropic 和 OpenAI 的 offer，因为这个决定关乎他判断的当下风险量级。
核心论点：
- 各大 AI 公司都在竞逐超级智能，路径是递归自我改进——AI 造出更聪明的 AI 的反馈循环；
- 一旦成功收益巨大，但「我们目前不知道如何确保 AI 安全」；
- DynamicWebPaige 转发并强调：公正、可独立验证、能代表真实能力的 evals（不仅针对模型，还包括 harness 和环境）是当下所有人最该投入的工作。
这条人才流动折射出前沿实验室内部安全研究员对商业实验室路线的信心变化，以及第三方评测机构在安全生态中的分量上升。
所属事件:DeepMind 与 Anthropic 安全研究员接连转投评估机构 METR(3 条相关)→
「公司和人」频道最新
- YC 新锐 Hickory 发布 AI 合规操作系统，瞄准银行与金融科技 — ycombinator · 2026-10-31
- RSNA 2026 深度学习实验课:教你识别论文高分模型为何在临床失灵 — PRouzrokh · 2026-10-31
- Kernel Magazine 第 6 期聚焦算法与信息流，11 月 8 日纽约办发布派对 — jessicadai_ · 2026-10-31
- Anthropic 递交纳斯达克上市申请，半年营收 163 亿美元同比增 12 倍 — DeepLearningAI · 2026-10-31
- Google 工程师自述：大厂光环成跳槽负担，被创业公司以「节奏太慢」拒之门外 — SumitGup · 2026-10-31
- Liquid AI 每两周发一个重磅模型，DevRel 宣布 11 月每周办活动 — JosephJacks_ · 2026-10-31