曝 OpenAI 禁止在 Claude 模型上跑安全评测,业界呼吁重启互测
sjgadler · x · 2026-11-17
研究人员 Adam Karvonen 称,OpenAI 不被允许在 Anthropic 模型上运行安全评测——他想测试 Claude 在「隐蔽性能不足」评测中的表现,但被告知不可以。Peter Wildeford 指出,一年多前 Anthropic 和 OpenAI 曾试点过互相安全测试对方模型,如今应重启这一机制。发帖人认为这很反常:领先的 AI 机构显然应该互相评测对方的模型。
所属事件:OpenAI 疑似被禁在 Claude 上跑安全评测引热议(6 条相关)→
「安全」频道最新
- 银行等关键系统频发断网事故,官方均称互不相关 — josh_bickett · 2026-11-17
- Pedro Domingos 回击 Neel Nanda:机器无价值观才是科学共识 — pmddomingos · 2026-11-17
- Anthropic 递归自我改进警报被触发,承诺升级到空前安全级别 — ForgotMyParachute · 2026-11-17
- 研究警告:聚合分析聊天记录可能泄露敏感研究洞见 — niloofar_mire · 2026-11-17
- 美国收紧 AI 技术远程访问管控,与 Nvidia 裁员风波相关 — nordicinst · 2026-11-17
- heybox 开源:给 HEY CLI 加 Touch ID 锁,防 Agent 偷读邮件 — seanmcdonaldxyz · 2026-11-17