Late Interaction 2026 演讲：单向量检索把所有线索压成一个摘要
IgorCarron · x · 2026-10-20
AI 搜索社区活动 Future of AI Search 上，Amélie Chatelain 分享了 Late Interaction 在 2026 年的进展，现场反响热烈。
配图给出一个直观实验：稠密检索把 query 和文档各压成一个 d 维向量，导致查询中的多个独立相关性线索（协议名、状态码、函数名、文件路径）全部挤进一个固定大小摘要。实验用 granite-embedding-small-english-r2 测试「HTTP 429 后 OAuth token 刷新的 backoff」这类查询：单独改动任一线索（429→503、OAuth→SAML、refresh→revoke、backoff→timeout）得到的向量余弦相似度（0.943-0.970）竟都高于该查询自己的正确改写（0.949）——单向量检索把错误答案排在了正确改写之前，凸显 Late Interaction 类多向量方法保留细粒度线索的价值。
「Infra」频道最新
- NeurIPS 2026 论文 IPW：衡量本地 AI 的「每瓦智能」效率 — HazyResearch · 2026-10-20
- SpaceX 财报周遇上 13 亿股解禁：算力生意年化约 1100 亿美元 — JOBhakdi · 2026-10-20
- AI 多头叙事的经济学漏洞：算力边际成本超过用户获得收益 — SumitGup · 2026-10-20
- 开发者推出 ijah：M5 Max 本地跑 Qwen Flash-Next 的新推理引擎 — SeveralViolins · 2026-10-20
- Shadeform 推六项新功能：算力租赁模式跟不上 Agent 时代 — omarsar0 · 2026-10-20
- 推理服务商版 CAP 定理：可靠性、成本与速度三者难兼得 — AccBalanced · 2026-10-20