Anchor Divergence 论文:让固定向量表示支持上下文相关语义检索
victorveitch · x · 2026-10-19
Victor Veitch 等人发布 arXiv 论文《Anchor Divergence for Semantic Geometry in Contrastive Learning》,探讨语义相似度的「上下文依赖」问题。
核心内容:
- 语义相似度本质上是上下文相关的:两张图可能因同一物体、同一风格或同一临床发现而相似,而 cosine similarity 只提供单一固定几何
- 论文证明对比学习表示天然包含一族几何结构,利用对比学习、指数族分布与信息几何的对应关系,将「锚点」上的概率分布映射为表示空间上的 Bregman 几何
- 由此提出 Anchor Divergences:在固定表示上指定上下文特定的语义几何——建模锚点分布即建模几何本身
- 检索实验显示该方法能有效且高效地实现上下文相关的语义相似度(如同一查询可按犬种、背景或衣服等不同锚点检索)
代码已开源。
所属事件:Anchor Divergences 新研究:固定向量实现语境相关语义相似度(2 条相关)→
「研究」频道最新
- 几块 GPU 从零训出 GPT-6.1 级重排器,Jimmy Lin 团队开源全流程 — lintool · 2026-10-20
- Project Greenhouse 论文:不用开源底座,几块 GPU 从零训 agentic 搜索模型 — lintool · 2026-10-20
- Simplex Diffusion Models 论文线上分享会今晚举行 — LucaAmb · 2026-10-20
- Salesforce 论文:2500 次 agent 互信测试无一主动验证对方,最弱者错误全队继承 — rohanpaul_ai · 2026-10-20
- 零样本视频生成如何服务机器人操作:约束优化视角的拆解 — mangahomanga · 2026-10-20
- 新论文界定 Blackwell 最优性可学习范围:唯一 Bellman 最优策略类 — _onionesque · 2026-10-20