Sentence Transformers 内置模型合并：免训练融合嵌入模型权重
tomaarsen · x · 2026-10-29
Sentence Transformers maintainer tomaarsen 介绍新加入的模型合并功能：无需再训练即可把兼容的模型权重合并为单一模型，底层通过 Arcee AI 的 mergekit 实现。
- 用法：pip install "sentence-transformers[merge]" 后调用 SentenceTransformer.merge()，支持传入 HF 模型 ID、本地路径或已加载实例；配置、prompts、processors 继承自第一个输入模型。
- 合并方法：支持 Linear 加权平均（如 60/40 合并两个 MiniLM）、SLERP、TIES 等；SLERP 同样适用于 dense、sparse、reranker 与 multi-vector 模型。
- 适用场景：合并同一基座模型微调出的多个 checkpoint 以组合能力，或在模型与进一步微调版本之间插值；作者实测同基座微调模型合并效果不错。
- 注意：合并可能在提升部分任务的同时损害其他任务，官方建议在自己的数据上对比各输入模型与合并模型后再决定。
所属事件:Sentence Transformers 新增免训练模型合并功能(2 条相关)→
「研究」频道最新
- 基因组基础模型 NTv3 发布：15 物种功能预测与调控序列设计 — anshulkundaje · 2026-10-30
- 「人格神经元」在哪激发？chat 模板 token 承载 25%–95% 激活 — maxsloef · 2026-10-30
- 人格神经元研究新数据：除 Hoot 外各人格消融后普遍表现更差 — maxsloef · 2026-10-30
- MIT 论文：收件箱机制解决万级 LLM 智能体协调难题 — omarsar0 · 2026-10-30
- Amazon FAR 发布 DreamFAR：纯机器人数据从零训练世界模型 — _krishna_murthy · 2026-10-30
- 强化学习期刊 RLJ 开放滚动投稿，按期录用即可登上 RLC 大会 — MarlosCMachado · 2026-10-30