Redwood 联创 Ryan Greenblatt 加入 METR,推动 AI 公司内部信息公开
RyanGreenblatt · x · 2026-09-28
Redwood Research 联合创始人 Ryan Greenblatt 宣布加入 METR,从事类似其 Hugging Face 报告的调查性研究。
核心观点:
- 当前与灾难性风险高度相关的 AI 开发基础信息大多不公开,他过去对公开信息价值持怀疑态度,但近期事件改变了看法;
- 获取 AI 公司内部经核实的公开信息尤其紧迫:有限的公开证据与「迫近的递归自我改进可能大幅加速能力进步,进而在 6 个月到一年内产生极端超人能力」的可能性相容,若如此将带来最坏情形的巨大风险;更多公开信息可以要么凝聚风险共识,要么证明极端情形近期可能性更低;
- 对齐、安全、控制及 AI 公司内部流程的公开证据同样匮乏。METR 初期聚焦能力/takeoff、对齐与控制,希望其他机构覆盖安全与内部流程领域;
- 他不再任职 Redwood,但仍认可其在技术缓解与风险证据解读上的工作。
所属事件:前 Redwood 首席科学家 Greenblatt 加入 METR(6 条相关)→
「漫话AGI」频道最新
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- 开发者驳'失控 AI'论:补贴式订阅撑不起昂贵 AI 集群 — gerardsans · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16
- 法国 AI Overviews 上线后:五个案例拆解 AIO 对点击率的冲击 — gaganghotra_ · 2026-11-16
- lemire:AI 改变编程的不是速度,而是扩大工程师的「认知半径」 — lemire · 2026-11-16