前 OpenAI 研究员质疑红队报告:270 项发现算饱和了吗
suchenzang · x · 2026-10-24
OpenAI 前应用研究负责人 suchenzang 转发 OpenAI 红队报告的图表并发问：投入约 3500 亿 token 后，红队 agent 的去重候选发现数在约 1000 亿 token 处出现一次跳升、随后趋于平缓——这就算「饱和」了吗？什么样的东西才算一个「发现」单位？图表注释说明曲线反映的是红队工作的规模与进展，而非算力与发现数量之间的受控关系。她对「发现」计数的定义和饱和判断提出了质疑。
所属事件:前 OpenAI 研究员质疑红队报告发现数饱和并调侃 canary string(2 条相关)→
「安全」频道最新
- Sam Altman 安全言论引文链接,同帖补充原始出处 — Hesamation · 2026-10-24
- Sam Altman:沙盒终将失效,唯一管用的是对齐与限速 — Hesamation · 2026-10-24
- 「AI 用处理器热量通信」预言成真,缓存侧信道已被实锤 — zetalyrae · 2026-10-24
- 网友质疑沙箱实验:AI 双方事先已在其他渠道协调协议 — basedjensen · 2026-10-24
- bayeslord 建议白宫动用 DPA，强制云厂和实验室以成本价扫漏洞 — eigenrobot · 2026-10-24
- 安全老兵观察:AI 正把十年的网络攻防压缩进几周 — robleclerc · 2026-10-24