DeepMind AGI 安全研究员 Josh Engels 离职转投 METR 做 evals
bigblueboo · x · 2026-09-14
前 Google DeepMind AGI 安全团队成员 Josh Engels 宣布三周前离职加入独立评测机构 METR。他在长文中解释：拒绝了 Anthropic 和 OpenAI 的 offer，因为这个决定关乎他判断的当下风险量级。
核心论点：
- 各大 AI 公司都在竞逐超级智能，路径是递归自我改进——AI 造出更聪明的 AI 的反馈循环；
- 一旦成功收益巨大，但「我们目前不知道如何确保 AI 安全」；
- DynamicWebPaige 转发并强调：公正、可独立验证、能代表真实能力的 evals（不仅针对模型，还包括 harness 和环境）是当下所有人最该投入的工作。
这条人才流动折射出前沿实验室内部安全研究员对商业实验室路线的信心变化，以及第三方评测机构在安全生态中的分量上升。
所属事件:DeepMind AGI 安全研究员离职转投评测机构 METR(2 条相关)→
「公司和人」频道最新
- 团队用 Astra 一天做出小贩数字化 B2B 原型 — gabrielchua · 2026-09-14
- 2022 年 Redwood 罕见旧帖：会写 Transformer 就能入职对齐公司 — panickssery · 2026-09-14
- Alexandr Wang:Meta 模型暗藏一年布局,皆为个人智能体 Muse 铺路 — alexandr_wang · 2026-09-14
- Scale CEO Alexandr Wang 力挺 Meta Muse：把经济红利从企业转向消费者 — alexandr_wang · 2026-09-14
- 曝 Anthropic 与 RUM 集团签 137 亿美元 6 年算力大单 — rohanpaul_ai · 2026-09-14
- Meta AI 主管 Alexandr Wang 带火新梗 musepilling — alexandr_wang · 2026-09-14