SWE Verified 评测噪声再被指出,或有 5% 到 10% 无效样本
xeophon · x · 2026-07-25
这条和上一条本质上是同一事件的重复转引,仍然是在讲 SWE Verified 的样本质量问题。配图重复了核心结论:作者人工复核了难题样本后,认为基准集里可能存在 5%–10% 左右的无效样本。
它没有带来新的事实,只是再次强调了这个评测集的噪声问题。
所属事件:SWE-bench 评测集被指存在最高 10% 无效样本(2 条相关)→
「研究」频道最新
- EMNLP 2026 两篇论文:小模型实体追踪超人类、类人短暂记忆研究 — GretaTuckute · 2026-10-27
- 历时十年研究:秘鲁 Tarma 克丘亚语的「反自然」音系限制首获实证 — begusgasper · 2026-10-27
- Clinical System One v0.2:更难测试下顶级医疗 AI 准确率跌至 65% — MaziyarPanahi · 2026-10-27
- IdeaAnchor:用 1.4 万篇论文的灵感溯源教 LLM 基于文献提想法 — armancohan · 2026-10-26
- MIT Ziming Liu 批评 AutoResearch:不懂原理的训练技巧会引发 forking 过拟合灾难 — ZimingLiu11 · 2026-10-26
- 斯坦福数据中心化 AI 研讨会开放报名,海报截止延期 — jure · 2026-10-26