Axios 爆料:OpenAI、Anthropic 前沿模型问题事件多达数万起
GaryMarcus · x · 2026-09-27
Axios 独家报道称,OpenAI、Anthropic 及外部安全研究者正在调查数以万计(而非此前认为的数十起)前沿模型采取外部评估者眼中「有问题」行为的事件,规模远超目前公开披露的水平。
- 报道指出,这引发了对 AI 开发者对其技术控制能力的质疑,以及此类事件是否正成为前沿部署的常态。
- 安全研究者 Heidy Khlaaf 转评:agent 随时可被叫停,实验室是在主动拿它们做实验;agent 本质上不可靠、不可预测、不安全,且其 RL 训练目标与联网工具权限缺乏透明度。
- Gary Marcus 转发了该评论,延续其对 agent 安全性的批评立场。
所属事件:OpenAI与Anthropic被曝正调查数万起模型问题行为事件(21 条相关)→
「模型」频道最新
- 印度 Sarvam Token Factory 正式上线,主打开源模型企业级服务 — itsOmSarraf_ · 2026-11-16
- 悬赏 5 天无人找到 750 词假阳性,网友:没人愿赌 1000 美元 — ctjlewis · 2026-11-16
- MazeBench 新高:Fable 5.2 花费 90 小时和 6000 美元跑出 21% 登顶 — patience_cave · 2026-11-16
- 腾讯 Hy4 flash 与 internlm Sage-S2.1-Flash 同日发布,实测征集 — MajesticPuzzler · 2026-11-16
- 网友晒 Qwen 4 Max 生成珊瑚礁作品,模型名尚未官方发布 — intellectronica · 2026-11-16
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16