HF 研究员开源 Ettin 系列重排器:6 档尺寸、各规模 SOTA、附完整训练配方
antoine_chaffin · x · 2026-11-13
Hugging Face 研究员 Tom Aarsen 发布六个新的 Sentence Transformers CrossEncoder 重排器(17m/32m/68m/150m/400m/1b),在各自参数规模上达到 SOTA,基于 Ettin ModernBERT 编码器构建,同时开源了训练数据与完整配方。
- 训练方法:用 mixedbread mxbai-rerank-large-v2 的分数做逐点 MSE 蒸馏,数据为 lightonai 预训练/微调数据子集。
- 与 google/embeddinggemma-300m 等 embedder 搭配在 MTEB(eng, v2) Retrieval 上评测。
- 作者用 Sentence Transformers v5.5.0 新增的 train-sentence-transformers Agent Skill 引导 AI 编码 agent 完成训练,可直接 hf skills add 安装使用。
LightOn 的 Antoine Chaffin 转发并推荐:如果还在只用 MSMARCO 训练检索模型,这批开源数据足以让你免费做出 SOTA,并展示了 MICE 扩展、SparseUp 等衍生工作,「开源创造了向顶部的竞赛」。
「模型」频道最新
- Google 新模型命名再被吐槽:Carbon、Argon、Hydrogen 大小难辨 — JeremyNguyenPhD · 2026-11-13
- Claude 全线故障:登录验证出问题,官方确认正在调查 — op7418 · 2026-11-13
- 微软与 Claude 同时宕机,开发者哀嚎全线瘫痪 — ThePeterMick · 2026-11-13
- 爆料:Google 手里还压着一个「大家伙」即将发布 — iruletheworldmo · 2026-11-13
- 1B 小模型 83.62 分登顶 MathArena 12B 以下榜 — tensorqt · 2026-11-13
- 11月13日 AI 快报:Gemini 新模型定价公布,Anthropic 确认 11月19日以 ANT 登陆纳斯达克 — testingcatalog · 2026-11-13