METR 首发前沿风险报告,OpenAI 等四家大厂参与试点评估
dfrsrchtwts · x · 2026-09-23
METR 发布 2026 年 2-3 月《Frontier Risk Report》，这是其首次试点性评估（pilot exercise），评估窗口为 2026 年 2 月 16 日至 3 月 16 日，聚焦前沿 AI 开发商内部使用的 AI agent 的错位（misalignment）风险，Anthropic、Google、Meta、OpenAI 四家参与。
要点：
- 每家参与方提供了当时最强内部模型的访问权限（含原始思维链），以及模型能力、内部 AI 使用与监控、进展速度等非公开信息。
- METR 为每家出具私下报告，参与方审定可披露内容后，METR 再发布公开报告。
- 评估以实体为单位而非具体模型，设计为可周期性重复，而非绑定公开发布。
- 报告称除非明确注明，结论未因任何参与公司的额外隐去信息而受影响；主体部分基于评估得出的六个关键事实展开。
推文讨论中另有对 METR 的 AI R&D 评测（如 sunlight）是否应计入非 METR 类评测的细究。
「安全」频道最新
- 2026 中期选举 41 项数据中心公投 40 项倒向反 AI 建设方 — Acceptable-Offer-518 · 2026-11-12
- 为 20 行小工具起容器太重:Redditor 推出可静态验证的 Safescript — uriwa · 2026-11-12
- Zvi 深析 Anthropic 新系统卡: autonomy 阈值争议成焦点 — Don't Worry About the Vase (Zvi) · 2026-11-12
- AI 梳理 42 场黄仁勋播客：出口管制批评在 2025 年 4 月后明显升级 — ShakeelHashim · 2026-11-12
- 20MW 以下小站点绕开监管大战,成数据中心新出路 — antavedissian · 2026-11-12
- Newsweek 撰文：美国应资助医院与高校用联邦学习共建 AI — Saul_Loveman · 2026-11-12