gSAP 损失函数提出:优化跨查询全局排序,可平替 InfoNCE
serrjoa · x · 2026-10-08
arXiv 论文提出 gSAP,一种全局平均精度(gAP)的可微替代损失。
- 现有检索指标(mAP)与损失(InfoNCE、per-query AP)只按单查询评估,不考虑相似度跨查询可比性,而依赖统一决策阈值的系统恰恰需要这一点;
- gSAP 把所有 query-candidate 对放进同一列表排序,只需相似度矩阵和正对标记矩阵,输入与现有损失一致,可作 drop-in 替换,与编码器、模态、监督来源无关;
- 由于联合考虑批内所有两两比较,它在低温区间仍可训练——这正是 per-query 替代损失梯度消失的区间;
- 替换进既有方案后,在监督式度量学习、跨模态对齐与自监督预训练上均有提升,后两者中据称是首个取代 InfoNCE 的排序损失。
「研究」频道最新
- Toby Ord 提出插值-外推-超外推三分法,称 AI 拙于第三类 — tobyordoxford · 2026-10-08
- 开发者热议:ColBERT 式 late interaction 还算不算 cross-encoder 重排器 — CShorten30 · 2026-10-08
- Lorenz63 混沌系统背后,还有阿波罗女工程师 Hamilton 的故事 — neurovium · 2026-10-08
- 沃顿教授 Ethan Mollick:真 Agent 时代以来几乎无新的生产力 RCT 研究 — emollick · 2026-10-08
- 六年前诞生的 spec gaming 案例集:原始 AI 的脑洞钻空实录 — gleech · 2026-10-08
- 物理教授停止对抗 Claude,让 AI 找「Claude 形状」的科研问题 — UltraRareAF · 2026-10-08