METR 警告:AI 进步快过安全评测,现有测试难排除失控加速
The Decoder · rss · 2026-11-22
METR(模型评估与安全研究机构)发布警告:以 Opus 5.5 和 GPT-6 Astra 为代表的前沿模型在研究类任务上能力提升迅速,但现有评测手段已难以可靠衡量新系统的安全性。
- 当前数据无法排除 AI 发展出现「危险加速」的可能性
- 不过 METR 同时指出,常用测试可能高估了模型的真实能力
核心结论是:模型进步速度已超过专家能够可靠评估其安全性的速度,评测基础设施正在成为瓶颈。
「漫话AGI」频道最新
- 「生物学没有 Lean」:活细胞是唯一能跑自身计算的物理基质 — JosephJacks_ · 2026-11-22
- GTA6 十亿美元成本 vs 未来 30 美元 API 调用:生成式游戏的反差预言 — flowersslop · 2026-11-22
- HF 研究员 Lewis Tunstall 讲透从 LLM 到 Agent 集群的演进史 — _lewtun · 2026-11-22
- 数学家 Ken Ono 撰长文反思 AI 时代为何仍坚守数学 — Dr_Atoosa · 2026-11-22
- 评论人称数学将在一两年内被 AI 吞没,只剩顶级数学家 — haider1 · 2026-11-22
- 医学 AI 访谈:模型满分诊断仍受限于人类共识标签 — CurieuxExplorer · 2026-11-22