Sentence Transformers v5.7.0 详解:修复静默失效与量化行为变更

tomaarsen · x · 2026-08-06

作者详细说明了 Sentence Transformers v5.7.0 的两项重要变更:一是修复了 model.compile() 在推理时静默失效的问题,结合 CUDA graphs 实现了约 3 倍的推理加速;二是调整了 int8/uint8 量化的截断行为,旧数据需重新量化。此外还修复了评估器指标反转、损失函数 padding 泄漏等多个底层问题。

所属事件:Sentence Transformers v5.7.0 发布修复梯度Bug并大幅提速(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →