Sentence Transformers 6.2.0:DDP 评估自动跨卡共享,模型加载快 43–61%

tomaarsen · x · 2026-10-21

Sentence Transformers 6.2.0 线程要点:使用 DDP 训练时,evaluator 现在自动在各训练 rank 间共享 encode()/predict(),rank 0 汇总全量数据指标并共享给 checkpoint 选择与早停。加载方面,Hub revision 只解析一次并复用:all-MiniLM-L6-v2 从 6.39s 降至 2.66s,HTTP 请求从 35 降到 9;四款测试模型加载时间下降 43–61%。

所属事件:Sentence Transformers v6.2.0 发布:模型合并、加载提速超四成(10 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →