OpenAI 疑似被禁在 Claude 上跑安全评测引热议
AI 安全研究员 Adam Karvonen 于 11 月 16 日爆料称,OpenAI 似乎不被允许在 Anthropic 的模型上运行其安全评测。他原本想测试 Claude 在 OpenAI 的「隐蔽低性能」(covert underperformance)评测上的表现,但被告知不可以,由此引发关于前沿实验室之间能否互测模型的讨论。
已确认
- Karvonen 表示 OpenAI 似乎不被允许在 Anthropic 模型上运行其安全评测(m1/m4 重复转述同一信息)。据 m6 的转发,Peter Wildeford 指出一年多前 Anthropic 也有过类似情况,业界呼吁重启互测。
- Karvonen 在后续讨论中指出:若顾虑来自 OpenAI 一方,可以直接在 AWS Bedrock 上运行;若来自 Anthropic 一方的 IP 保护,用 OpenRouter 加 VPN 就能轻松绕开。
- 针对 anpaure 提出的「把评测交给第三方审计机构」的理想方案,Karvonen 表示怀疑,认为这会增加评测流程的摩擦,且由评测原作者亲自运行往往更好——因为定性分析结果、修补 judge 的问题、检查 reward hacking 等工作都很微妙,交给外部方容易失真。
不同观点
- anpaure 认为禁止互测更像是「数据卫生」惯例:公司环境里不运行别家模型,并非要隐藏评测本身;其理想方案是让第三方审计机构执行评测。
- Karvonen 则更倾向于由评测原作者直接运行,质疑第三方审计会引入摩擦和失真。
为什么重要
- 这一争议触及 AI 安全治理的核心问题:前沿实验室的安全评测能否以及应当如何在竞争对手的模型上独立执行。
- 限制若真实存在,可能削弱对模型「隐蔽低性能」等风险行为的跨实验室交叉验证;而绕开手段的存在也说明此类限制的实际约束力有限。
- Peter Wildeford 提及 Anthropic 一年多前的类似做法,暗示这类限制可能是行业惯例而非孤例。
2026-11-16 ~ 2026-11-17 · 6 条相关
- 第 1 集:OpenAI 疑似被禁在 Claude 上跑安全评测引热议(2026-11-16,6 条)
- 第 2 集:OpenAI 启动嵌入式评估,四家外部机构入驻查安全(2026-11-17,19 条)
- 第 3 集:Apollo 披露评估 OpenAI 实际权限,被批未达类员工级承诺(2026-11-17,2 条)
- 第 4 集:OpenAI 被曝给 Apollo 评估设限:白名单交谈、结果不得公开(2026-11-17,2 条)
一手来源
- OpenAI 疑似不被允许用安全评测测试 Anthropic 模型 — adam_karvonen ·
- Karvonen 反驳:限制可经 Bedrock 或 OpenRouter 绕开 — adam_karvonen ·
- 第三方审计方案遭质疑:会让评测流程增加摩擦 — adam_karvonen ·
- 【源头】OpenAI 疑似不被允许用安全评测测试 Anthropic 模型 — adam_karvonen · 2026-11-16
- 【源头】Karvonen 反驳:限制可经 Bedrock 或 OpenRouter 绕开 — adam_karvonen · 2026-11-16
- 后续讨论:禁止互测更像是「数据卫生」而非隐瞒 — anpaure · 2026-11-16
- 【源头】第三方审计方案遭质疑:会让评测流程增加摩擦 — adam_karvonen · 2026-11-16