模型评测争议:被指压低基准分数以凸显自身能力
JJitsev · x · 2026-07-15
AI 研究者指出一种操纵评测基准的现象:在对比自研模型与开源参考模型时,故意压低参考模型的评测分数,从而使自己的模型显得具备“前沿级”实力。
以基于 Nemotron-3-Nano 训练的 SOOFI S 模型为例,其报告显示 Nemotron-3-Nano 的得分远低于原始官方报告。对此,建议使用原始 Nemotron 的配方重新进行评测以验证分数匹配度,若排名依然成立,才能证明模型能力无水分。
所属事件:SOOFI 评测泄漏与基线对比争议(13 条相关)→
「模型」频道最新
- AI Sextet 活动:6 模型 14 天完全免费,含 DeepSeek/Qwen/GLM — airesearch12 · 2026-09-11
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线:性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11