Harrier在MMTEB榜单引争议
antoine_chaffin · x · 2026-07-15
帖子在说 Harrier 系列模型在自己的参数规模分组里拿到了 MMTEB 的 top-1，并且在 MIRACL 上分别达到 62.18 / 66.35 / 69.32。
但作者认为，当前 MMTEB leaderboard 的展示方式并不符合用户对“找一个好用的多语言模型”的预期：
- 有些模型在整体上并不强，但因为用了某些任务数据集的训练集，反而在榜单上冲到前排。
- 这意味着榜单结果可能更多反映了特定数据集记忆，而不是泛化能力。
后面的回复进一步指出，MMTEB 的两个官方任务本身就受到这一问题影响。
所属事件:MMTEB排行榜陷训练集数据污染争议(3 条相关)→
「模型」频道最新
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11
- antirez 谈 Anthropic 禁止未成年人使用 Claude — antirez · 2026-09-11