主导 OpenAI-HuggingFace 事件调查的 Greenblatt 加盟 METR
ivan_bezdomny · x · 2026-09-28
曾任 Redwood Research 首席科学家的 Ryan Greenblatt 宣布加入 AI 安全评估机构 METR。他曾主导对 OpenAI 与 HuggingFace 安全事件的调查。
- 新角色：在 METR 负责获取并独立发布关于 AI 能力、对齐与控制的经核实数据，弥补前沿公司内部安全信息不透明的问题。
- 关键警告：Greenblatt 认为递归自我改进可能已临近，一旦启动，模型能力或将在 6 个月到一年内跃升到「极度超人类」水平，最坏情况风险相应剧增。
- 立场转变：他坦言过去低估了公开信息的价值，现在认为独立调查与发布刻不容缓。METR 的 Chris Painter 表示，独立发布公司内部对齐数据是应对能力快速进步期的关键。
- 发帖人借此调侃 AI 安全实验室像学术界一样是「旋转门」行业。
所属事件:Redwood 联创 Ryan Greenblatt 宣布加盟 METR(4 条相关)→
「公司和人」频道最新
- 前时代产品长处在 AI 时代反成弱点，好用产品凤毛麟角 — signulll · 2026-09-28
- Haider：Google 欠缺 Agent 真实使用数据，成结构性短板 — haider1 · 2026-09-28
- CodeRabbit 总部办 Jev 首场黑客松:160 名开发者 4 小时激战 — schwentker · 2026-09-28
- Meta AI 新发布抢尽风头，Muse 能否化解信任危机 — TechCrunch AI · 2026-09-28
- MIT 教授 Isola：前沿实验室基础研究被封闭，外界才是理解智能的更好场所 — DimitrisPapail · 2026-09-28
- Reddit 热议:中国大模型实验室为何热衷开源权重 — caliberprot · 2026-09-28