复现否则不算数:训练侧去污染不可验证,评估侧规则才是出路
NoahPersaud · reddit · 2026-09-20
作者就基准去污染问题给出更精确的版本:自 OpenAI 今年 2 月退役 SWE-bench Verified 后,他试图严格界定去污染报告能证明什么。
- 核心论点:训练侧去污染有硬性下限——报告出自利益相关方、针对无人能查验的语料、使用抓不住改写与合成衍生物的匹配
- 语料承诺与 PSI 只能精确化声明,无法证明模型"只训练在声明语料上";proof-of-training 方案已被证可伪造
- 替代方案是评估侧构造性排除:提交方拿不到标签、评估断网、评估方从指定 commit 构建并自行复现分数、条件允许时用前瞻日期的测试数据
- 作者已为小型表格模型实现了一套,并区分"已实现"与"仅设计";列出四个复现无法证明的点,未解决的首要缺口是重复提交的适应性过拟合
- 文章还讨论了完整 ZK 证明需绑定哪些要素,以及为何单靠 proof-of-inference 不够
链接:holdoutlabs-ai.github.io/reproduce-it-or-it-doesnt-count/
所属事件:去污染报告救不了基准测试：评测须自控测试集并复现(2 条相关)→
「安全」频道最新
- 改动不足10个休眠神经元即可给任意 LLM Agent 装后门 — DimitrisPapail · 2026-11-12
- 研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12
- Gemini 被曝默认获得 Gmail 读取权限，数据共享选项默认开启 — paulnovosad · 2026-11-12
- PrivacyTests 新增24项指纹追踪测试：无浏览器防护完美 — gnukeith · 2026-11-12
- 2023年已有人工构造休眠触发器方案,早于 Anthropic sleeper agents 论文 — DimitrisPapail · 2026-11-12
- 前 OpenAI 安全研究员:NLP 的 Calvin 指超级智能对齐计划「依赖 AI 研究员」过于疯狂 — trevposts · 2026-11-12