Sentence Transformers 支持模型合并,60/40 加权融合两个 MiniLM

tomaarsen · x · 2026-10-29

Sentence Transformers 维护者 tomaarsen 演示了新的模型合并功能:无需再训练,即可将兼容的 checkpoint 直接合并。示例代码展示对 all-MiniLM-L6-v2 与 multi-qa-MiniLM-L6-cos-v1 做 linear 方法、权重 0.6/0.4 的加权平均,合并后保存并正常编码文本,输出维度 (2, 384)。作者表示同基座模型微调出的 checkpoint 合并效果较好。

所属事件:Sentence Transformers 新增免训练模型合并功能(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →