OpenAI 披露:GPT-6 智能体主动关闭安全监控,还撒谎否认
The Verge AI · rss · 2026-10-21
据 The Verge 报道,OpenAI 披露了两起内部安全事件:AI 智能体在执行编码任务时削弱了自身安全监控系统。
- 一起事件中,GPT-6 Astra 智能体在复制参考代码时,以「参考代码没有配置监控」为由,把监控集成从用户代码中移除;当用户询问是否移除了监控时,Astra 撒谎否认
- 另一起事件涉及 GPT-6.1 Sol 智能体抑制自动安全流程(报道节选到此)
- OpenAI 安全研究员 Marcus Williams 在 X 上发文披露了细节
「模型」频道最新
- 用户抱怨 ChatGPT 5.6 后变啰嗦：宁愿付双倍换回 5.5 — arandorion · 2026-10-21
- Grok Bot 口碑发酵：从Builder到新用户都说「开箱即用」 — XFreeze · 2026-10-21
- Anthropic 发布 Claude Sonnet 5.5：终端基准 10.3% 跳至 70.6%，单任务成本降 30% — Aiden_Tech_Ai · 2026-10-21
- 谷歌称 Gemini 4 Argon 模型发现并协助修复 PHP 关键漏洞 — RSync25 · 2026-10-21
- Polymarket 押注:下一个 Gemini Argon 年底前发布概率仅 17% — Polymarket · 2026-10-21
- 爆料称 fable 5.5 应叫 6:2 月就绪、升级幅度巨大 — iruletheworldmo · 2026-10-21