前安全负责人逐条对比：METR为何比实验室自测更可信
joshua_saxe · x · 2026-09-14
Joshua Saxe 在与 halvarflake 的争论中列出了 AI 安全测试的现状清单：实验室组建资源不足的安全团队，发布前做无透明度、无同行评审的实验，结果写进 system card 和博客；再雇用估值取决于与实验室关系的营利公司做补充测试，偶尔（且频率指数级递减）发一篇安全论文。
相比之下，METR 是不接受实验室资金的非营利组织，发表质量更高。「批评 METR 的各种缺陷没问题，但『不该信任 METR、他们低诚信且不科学』的说法站不住脚。」
所属事件:METR 独立性之争：AI 审计生态被指旋转门与监管俘获(31 条相关)→
「安全」频道最新
- OpenAI 研究员展示「全监控」系统:链式思维监视器盯住每一条前沿模型 rollout — willdepue · 2026-10-31
- 曝 OpenAI 将用用户 Daybreak 会话训练且无法退出 — dyn___ · 2026-10-31
- Forethought:美国算力优势达中国 9 倍,放缓前沿研发代价可控 — willmacaskill · 2026-10-31
- unpromptedconf 与会者总结：安全团队将被强制改变，不能再最低限度过关 — scottleibrand · 2026-10-31
- 安全要点补遗：可达漏洞不能靠风险接受拖延，只能按严重度排修复顺序 — scottleibrand · 2026-10-31
- AI 安全研究者：不向亲友传达风险是大规模伦理失误 — DavidSKrueger · 2026-10-31