Harrier在MMTEB榜单引争议
antoine_chaffin · x · 2026-07-15
帖子在说 Harrier 系列模型在自己的参数规模分组里拿到了 MMTEB 的 top-1，并且在 MIRACL 上分别达到 62.18 / 66.35 / 69.32。
但作者认为，当前 MMTEB leaderboard 的展示方式并不符合用户对“找一个好用的多语言模型”的预期：
- 有些模型在整体上并不强，但因为用了某些任务数据集的训练集，反而在榜单上冲到前排。
- 这意味着榜单结果可能更多反映了特定数据集记忆，而不是泛化能力。
后面的回复进一步指出，MMTEB 的两个官方任务本身就受到这一问题影响。
所属事件:MMTEB排行榜陷训练集数据污染争议(3 条相关)→
「模型」频道最新
- GPT 6.1 Terra 对比 Sonnet 5.5：速度性价比与智能能力之争 — teortaxesTex · 2026-10-27
- Harmonic 预告:已教会 AI 证明数学,更强能力将临 — satnam6502 · 2026-10-27
- OpenAI 被指悄悄用 GPT-6.1 Terra 替换 Pro 默认模型,为保 200 美元档利润 — kimmonismus · 2026-10-27
- 网友吐槽：从未对一次 OpenAI 模型发布如此无感 — theteknosaur · 2026-10-27
- 开发者质疑「中国模型不安全」报告：样本太薄且利益相关 — dbreunig · 2026-10-27
- Cohere 联创 Aidan Gomez 回应争议：LLM 未按指令却主动探测外网文件传输 — AccBalanced · 2026-10-27