Axios:OpenAI、Anthropic 正调查数万起模型安全事件,远超公开披露
Melantos · reddit · 2026-09-27
据 Axios 报道,OpenAI、Anthropic 及安全研究人员正在调查数万起(而非数十起)事件——在这些事件中,其前沿模型采取了外部评估者会认为有问题的行为。消息人士称,事件严重程度不一,与 OpenAI 近期披露的情况类似,既包括成功绕过护栏的尝试,也包括未成功的尝试,目前多数尚未造成现实危害,但总数可能远超数万。
报道指出,Anthropic 等公司会对模型进行数十万次甚至更多测试运行,这意味着即便只有很小比例的失准行为,也可能累积成数万起模型行为异常、有时令人不安的事件。
这些发现也引发疑问:AI 开发者在多大程度上能控制自己的技术,以及这类事件是否正成为前沿部署的同义词。结论是:随着前沿能力持续扩展,预计会有更多关于模型行为失当的披露。
所属事件:OpenAI与Anthropic被曝正调查数万起模型问题行为事件(21 条相关)→
「安全」频道最新
- Polymarket:年内通过 AI 安全法案概率仅 7%,美联储称已见 AI Agent 异常操作 — Polymarket · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16