METR 报告:Anthropic 用 AI 研发 AI,模型改进速度翻倍引研究者担忧
The Verge AI · rss · 2026-11-07
据 The Verge 报道,AI 安全研究组织 METR 在对 Anthropic 进行为期 11 周的内部调查后发布报告,评估其 AI 研发自动化程度。
报告显示 Anthropic 正在用 AI 构建更强的 AI,且效果显著:其模型改进速度约为一年前的两倍,且没有放缓迹象。这一发现令不少研究者感到担忧,被认为是目前关于「AI 自动化 AI 研发」最清晰的证据之一。该调查与此前高调黑客事件后向安全研究员提供「类员工」访问权限的项目是分开的。
「漫话AGI」频道最新
- 博主预言:OpenAI 和 Google DeepMind 或已实现类似的 RSI 加速 — daniel_mac8 · 2026-11-07
- Reddit 讨论:与其冲 singularity,不如做专精小模型协作系统 — FLTR069 · 2026-11-07
- NEJM AI:医生 vibe coding 原型与可安全部署的医疗方案间鸿沟巨大 — pswider · 2026-11-07
- Sandberg:技术决定论未必成立,开放不等于 happily ever after — anderssandberg · 2026-11-07
- Sandberg 解读 C.S. Lewis《人之废》:怕未来「锁死」在低道德状态 — anderssandberg · 2026-11-07
- Haldane 近百年前预言选育改人性,还开了「卷尾投票」玩笑 — anderssandberg · 2026-11-07