GTE-MLM 稀疏嵌入模型原生进 Transformers v5,免 trust_remote_code

tomaarsen · x · 2026-11-20

Transformers 维护者 tomaarsen 宣布:GTE-MLM 系列稀疏嵌入模型已原生集成进 Transformers,并承诺所有未来 transformers v5. 版本都会维护支持。原始仓库仍需 trustremotecode=True 且已不兼容最新版 transformers,因此他制作了原生副本(如 tomaarsen/gte-en-mlm-large-native,基于 Alibaba-NLP/gte-en-mlm-large,权重与 tokenizer 不变,要求 transformers>=5.18.0)。

这些模型可开箱即用:model = SparseEncoder("tomaarsen/gte-en-mlm-large-native"),用法与 bert-base-uncased 等一致,可直接微调,尤其适合用 sentencetransformers.SparseEncoder 做检索相关微调;共发布 3 个模型。

所属事件:GTE-MLM 稀疏嵌入模型获 Transformers 原生支持(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →