SOOFI 被指基准泄漏
JJitsev · x · 2026-07-19
SOOFI 被指在基准评测中存在 eval leakage：报告里使用了训练阶段已见过的重写版评测集，甚至可能包含测试集，导致其宣称的“frontier-level champion”缺乏说服力。
作者指出，如果改看报告中未被训练集覆盖的 LBPP，结果会更能说明问题：Nemotron 3 Nano 38.1 分，对 Soofi 的 31.0 分，显示未泄漏条件下原版模型明显更强。
所属事件:欧洲开源模型 SOOFI 被指评测泄漏与过度包装(11 条相关)→
「模型」频道最新
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11