主导 OpenAI-HuggingFace 事件调查的 Greenblatt 加盟 METR
ivan_bezdomny · x · 2026-09-28
曾任 Redwood Research 首席科学家的 Ryan Greenblatt 宣布加入 AI 安全评估机构 METR。他曾主导对 OpenAI 与 HuggingFace 安全事件的调查。
- 新角色:在 METR 负责获取并独立发布关于 AI 能力、对齐与控制的经核实数据,弥补前沿公司内部安全信息不透明的问题。
- 关键警告:Greenblatt 认为递归自我改进可能已临近,一旦启动,模型能力或将在 6 个月到一年内跃升到「极度超人类」水平,最坏情况风险相应剧增。
- 立场转变:他坦言过去低估了公开信息的价值,现在认为独立调查与发布刻不容缓。METR 的 Chris Painter 表示,独立发布公司内部对齐数据是应对能力快速进步期的关键。
- 发帖人借此调侃 AI 安全实验室像学术界一样是「旋转门」行业。
所属事件:前 Redwood 首席科学家 Greenblatt 加入 METR(6 条相关)→
「公司和人」频道最新
- 剑桥数字心智研究组招聘博士后,研究 AI 福祉与治理 — davidmanheim · 2026-11-16
- CNBC 称黄仁勋未参与也未支持 reinstatement 网上请愿 — firstadopter · 2026-11-16
- 曝 OpenAI 曾欲 50 亿美元收购可解释性初创 Goodfire,因对方坚持独立而告吹 — steph_palazzolo · 2026-11-16
- 微软推出 18 集免费课程《Generative AI for Beginners》 — Aiden_Tech_Ai · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16