Brockman:OpenAI 用 Astra 自查安全漏洞直到「找不到为止」,25% 生产工程师转入防御
mimi10v3 · x · 2026-09-15
a16z 发布的访谈中,OpenAI 总裁 Greg Brockman 详述了用自家模型 Astra 做内部安全攻防的做法:
- 组织层面:抽调 25% 的生产工程师暂停原有项目,全部转入防御,专职升级安全架构,并用模型去找系统漏洞
- 成果:发现并修复了一批严重问题
- 饱和判据:新问题逐渐减少直至模型能力饱和——据其所知已找完 Astra 能找到的全部 P0 级问题;每次新模型发布都会开启新一轮循环
- 方法论:强调要保持在「网络攻防能力提升→再自查」的紧循环中
有网友(他人引用观点)进一步提议 OpenAI 应将形式化验证推广到关键开源基础设施。这条访谈是「AI 用于自身安全」最具体的一手案例之一。
所属事件:OpenAI 总裁 Brockman 宣称已进入 AGI 时代(9 条相关)→
「公司和人」频道最新
- IT 人才短缺实为复杂性危机：架构债让企业只招得起独角兽 — DavidLinthicum · 2026-10-31
- Sam Altman 称 PC 装 RAM『相当糟糕』,数据中心利用率更高 — _BlackDove · 2026-10-31
- 投资人对比 SpaceX–Anthropic 合作：护城河明显在 Anthropic 一边 — firstadopter · 2026-10-31
- 李开复新书《AI Native》11 月 3 日上市，获纳德拉作序推荐 — kaifulee · 2026-10-31
- LangChain SF 线下活动：决策模型与 Agent 评测的新玩法 — LangChain · 2026-10-31
- Lux Capital 牵头闭门夜话:Cognition 与 Modal 谈 AI 基建与安全 — graceisford · 2026-10-31