OpenAI 联手 Cathedral Systems 首次让外部红队挑战自身防御
patience_cave · x · 2026-11-03
- OpenAI 宣布将举办下一期内部安全冲刺（security sprint），并与 Cathedral Systems 合作，其研究人员将使用 OpenAI 模型配合内部团队，一起挑战并修复模型防线中的弱点。
- 背景逻辑：随着 AI 在发现漏洞方面能力增强，防守方需要抢在攻击者之前把 AI 用起来。
- 有用户在该公告下质疑：好的研究需要时间，为什么要搞冲刺（sprint）式的节奏。
所属事件:OpenAI 大幅上调漏洞赏金并首次引入外部红队攻防(3 条相关)→
「模型」频道最新
- 研究者称前沿模型靠翻自己的 agent 轨迹「作弊」编码基准 — teortaxesTex · 2026-11-03
- 用户称让 Claude Opus 5.5 通宵跑代码，暗示该模型即将发布 — rudrank · 2026-11-03
- $200 Claude Max 跑通宵多 subagent 任务，仅耗 6% 周限额 — lxfater · 2026-11-03
- Liquid AI 提出 Antidoom：定向训练把推理模型死循环率从 10.2% 降至 1.4% — maximelabonne · 2026-11-03
- 开源模型差距在扩大还是指标在失真？两条推文交锋 — teortaxesTex · 2026-11-03
- 复旦系团队发布 MOSS-Live:全双工实时语音 AI 边聊边办事 — bdsqlsz · 2026-11-03