无需改权重:TTT-Embed 测试时优化检索效果提升 8.36
_reachsumit · x · 2026-08-14
Google DeepMind 提出 TTT-Embed 框架,通过测试时优化(Test-Time Tuning)提升密集检索器的表现。
核心机制:
- 将重排器或 LLM 裁判的排序反馈,蒸馏成一个轻量级的向量。
- 将该向量直接添加到冻结的查询嵌入中,无需更新模型权重或修改索引。
关键优势:
- 适用于无法获取权重的闭源模型。
- 通过单一作用域参数控制反馈复用范围(全局、任务级或查询级)。
评测效果:
在 5 个嵌入模型和 15 个 MTEB 任务上测试,检索指标(nDCG@10)最高提升 8.36。且学习到的状态能有效泛化至未见过的查询和任务。
「研究」频道最新
- SIGCHI宣布2026年巴黎未来峰会,聚焦长期发展 — plopesresearch · 2026-08-14
- Scott 域与半格:线性 Scott 连续映射的推广 — jessi_cata · 2026-08-14
- 120 页《DeepSeek Harness 橙皮书》免费开源:AI 写就的框架拆解 — AlchainHust · 2026-08-14
- Meta/Oxford研究:多模态模型图像生成数据仅需5%,语言训练是关键 — rohanpaul_ai · 2026-08-14
- 探讨函数式编程与CRDT统一语义:域理论编程与半格同态 — jessi_cata · 2026-08-14
- 3DGS训练仅需12秒,刷新MipNeRF360速度纪录 — janusch_patas · 2026-08-14