METR 估算 AI 近乎倍增研究进展,Ajeya 前研究员警告行业毫无安全准备
AndyMasley · x · 2026-11-07
前 OpenAI 研究员 Ajeya Cotra 引用 METR AI R&D 报告的估算：AI 正使能力进步速率近乎翻倍，相当于研究人员的时间被加速约 10 倍——即使雇遍全球所有合格人类研究者也无法达到这种提升。
- 她认为「AI 戏剧性加速研发」是极近期出现极强能力的强指标：Anthropic 2025 年 5 月版 RSP 中，AI 研究自动化最高风险阈值 AI R&D-5 对应的里程碑其实比这更弱，按旧 RSP 届时 Anthropic 必须具备足以「防范国家级对手窃取模型权重」的安全水平
- 她判断行业远未达标：OpenAI 和 Anthropic 近期都被业余团体发生过重大安全入侵；若明年就要迎来智能爆炸，至少还需要强权重安全、全覆盖日志与监控、可监控性度量、反监控串通对策、有说服力的对齐训练与可解释性、以及必要时放缓进展的治理机制
所属事件:METR 报告称 AI 使研发进度近乎翻倍，行业被指毫无准备(3 条相关)→
「漫话AGI」频道最新
- signull:Agent 商业普及后, Gmail 地址将被 agent 专属邮箱取代 — signulll · 2026-11-07
- Anthropic 研究：AI 可承担科研 27-52% 工作时间，中位数 38% — emollick · 2026-11-07
- ICLR 2027 审稿提「附录」比例飙至 29%，疑 AI 代写涌现 — nsaphra · 2026-11-07
- SF 机器人圈共识之外：作者断言一两年后一句话即可指挥人形机器人 — carlosdponx · 2026-11-07
- 斯坦福教授 Anshul Kundaje：ML 会议同行评审体系已无法修复 — anshulkundaje · 2026-11-07
- Eric Drexler：别谈乐观概率，要谈选项——超级智能时代的参与者思维 — sebkrier · 2026-11-07