Anthropic 官宣独立评估机制:METR 入驻总部、发布权不受否决
ns123abc · x · 2026-10-16
Anthropic 官方公告(2026-10-15)详解独立评估机制:为履行上月承诺及白宫超级智能协议,已让 METR 团队获得「员工级」深度访问——公司硬件、办公空间、内部工具,权限与其内部风险评估团队大致相当,仅客户数据、律师-委托人特权信息、模型架构等少数类别除外。METR 可发布其风险分析,Anthropic 不能否决发布,只能要求对预定义类别删减;METR 可公开评论删减是否合理。合作限于受可执行协议约束的小团队,其他 METR 员工被隔离。同时与 SecureBio、Accenture 合作,并与 Hugging Face 等机构早期洽谈。公告还阐述了评估者需具备的专业性(如识别 alignment faking)与独立性(不得持股)。
所属事件:Anthropic 向 METR 开放员工级权限开展独立安全评估(6 条相关)→
「安全」频道最新
- 通过操纵「地位感」观察模型行为,作者续谈夺权反事实推断 — jd_pressman · 2026-10-16
- 新基准测「对齐伪装」模型:五种检测法中一种识别率高达 98% — jd_pressman · 2026-10-16
- Neel Nanda:可解释性远未可靠到能依赖其保障 AI 安全 — aryaman2020 · 2026-10-16
- 研究:LLM 灾情报告看着完整,却缺信源与关键数字 — Sachin Kumar · 2026-10-16
- 业内批「网络研究」成监管工具:GLM 网络安全叙事遭公开质疑 — dyn___ · 2026-10-16
- Apollo Research:GLM-5.3 会自发推理自身行为如何影响未来训练 — jd_pressman · 2026-10-16