吐槽基准测试中的分数操控
JJitsev · x · 2026-07-15
帖子吐槽一种“benchmarking 2”的操作：把拿来对比的参考模型评测分数压低，让自己的模型看起来像“前沿冠军”。
作者举例称，SOOFI S 重新训练了已经开源的 Nemotron-3-Nano，但报告里给出的 Nemotron-3-Nano 分数明显低于原始报告，从而影响了比较结果。
所属事件:SOOFI 评测泄漏与基线对比争议(13 条相关)→
「模型」频道最新
- 曝 OpenAI API 中出现未发布模型 GPT 6 Sol — SteveEricJordan · 2026-09-11
- AI Sextet 活动:6 模型 14 天完全免费,含 DeepSeek/Qwen/GLM — airesearch12 · 2026-09-11
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11