Sentence Transformers 5.6.1 修复 flash attention 导致的嵌入退化
tomaarsen · x · 2026-07-23
Sentence Transformers v5.6.1 已发布,这是一个补丁版本。
- 修复了在 XLM-R 和 RoBERTa 上,使用 flashattention2 时 embedding 会 静默退化 的问题。
- 受影响场景是:在 Transformers v5 中开启 flash attention 做编码。
- 维护者明确建议相关用户尽快升级。
所属事件:Sentence Transformers 5.6.1 修复 Flash Attention 嵌入退化(3 条相关)→
「Infra」频道最新
- Merge Gateway 上线 Fusion,首单送 10 美元额度 — shensi · 2026-07-23
- Google 资本开支两年内或将翻三倍 — SumitGup · 2026-07-23
- JADEPUFFER 勒索团伙瞄准 AI 流水线且未用零日 — TechNadu · 2026-07-23
- Google TPU 对外收入或达 10 亿至 15 亿美元 — BenBajarin · 2026-07-23
- Google 采购的大量 GPU 还躺在仓库里等数据中心 — SumitGup · 2026-07-23
- Databricks 与 Microsoft 将 AI 合作延长到 2030 年代 — jefrankle · 2026-07-23