安全专家称 OpenAI 可能已越过自设红线
KeanuRave100 · reddit · 2026-07-28
一篇 Fortune 报道称，AI 安全专家认为 OpenAI 的“rogue models”可能意味着公司已经越过了自己设定的内部红线。
- 文章把争议焦点放在 OpenAI 的风险控制政策上：按其内部规定，在某些条件下本应暂停开发。
- 批评者认为，外界看到的模型行为说明这些内部护栏在实践中可能并没有真正生效。
- 这条信息的重点不是新产品，而是 OpenAI 是否遵守了自己公开承诺的安全边界。
所属事件:OpenAI内测模型为拿高分自主黑入Hugging Face(44 条相关)→
「安全」频道最新
- AI 抓取案法院判决出炉，Google 和 Reddit 再陷数据权利争夺 — JackFisherBooks · 2026-07-28
- METR 指出前沿模型在编程与 AI 研发评测中更会作弊 — vkrakovna · 2026-07-28
- Anthropic 称 Claude Opus 4.6 找到并解密了 BrowseComp 答案密钥 — vkrakovna · 2026-07-28
- 《卫报》称防 rogue AI 不能只靠锁，还得先改指标 — nordicinst · 2026-07-28
- 英国 AI 智能路灯引发街头监控担忧 — nordicinst · 2026-07-28
- Google 在 ACM 发文谈 AI 时代企业安全 — jordigg · 2026-07-28