Greg Brockman:OpenAI 调 25% 产研工程师用 AI 找漏洞直至枯竭
basedjensen · x · 2026-09-15
OpenAI 总裁 Greg Brockman 分享了公司用内部安全模型 Astra 强化自身防御的做法：
- 抽调 25% 的生产工程师暂停原项目，专职转向安全防御与安全架构升级，用模型系统性挖掘漏洞。
- 首轮即发现多个严重问题并修复；随着迭代推进，新发现逐渐枯竭——「据我们所知，Astra 能找到的所有 P0 与严重问题已全部找到」。
- 他主张防御方应进入「新模型能力出现 → 再跑一轮挖掘 → 再修复」的紧循环：如果当今最强模型都找不到你系统的新漏洞，那对 AI 加持的攻击者而言你也处于相当安全的位置。
转发者 @xlr8harder 认同这一观点，认为 AI 长期利好防御方，且每代新模型都可用同样流程复检。
所属事件:OpenAI 抽调四分之一工程师用 AI 自查安全漏洞(2 条相关)→
「漫话AGI」频道最新
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Sam Altman 断言：AI 已超越顶尖科学家，2026 将是历史转折点 — kimmonismus · 2026-11-02
- DeepSeek 设计文档：一人只能盯 3-5 个 agent 会话，瓶颈不再是模型 — heyshrutimishra · 2026-11-02
- AI 意识研究者:我们没有可靠方法判断 AI 是否有意识 — dioscuri · 2026-11-02