前 OpenAI 研究员质疑红队报告发现数饱和并调侃 canary string

OpenAI 前应用研究负责人 suchenzang 对公司红队报告提出疑问：投入约 3500 亿 token 后，红队 agent 的去重候选发现数停留在约 100 多项（共 270 项发现），这是否意味着已饱和。他还调侃报告末尾的 canary string——声明红队评测数据绝不应进入未来模型训练语料并附 alignment.org 相关链接，称这是「只有对齐圈才想得出的安全招」。

2026-10-24 ~ 2026-10-24 · 2 条相关