30 问吃透 Embeddings 与向量检索:从对比训练到 HNSW 与评测
techNmak · x · 2026-08-26
一篇系统梳理 embeddings、向量搜索与检索的 30 问长文,覆盖 RAG 检索栈全链路:
- 基础:文本在嵌入空间中的"相近"到底指什么、池化策略为何不能在服务时更改、cosine/点积/欧氏距离何时排序一致、为何相似度分数不是校准概率、维度越多检索不一定越好
- 训练:对比学习如何教会相关性;in-batch negatives、hard negatives 与假阴性陷阱
- 检索:BM25 的实际打分方式与词法搜索仍胜过稠密检索的场景;SPLADE 学习型稀疏检索;混合检索与 RRF 融合为何不是自动更优
- 重排:bi-encoder vs cross-encoder、检索后重排的深度选择、ColBERT 后期交互
- 索引与 ANN:HNSW 实际原理及为何生产中不是 O(log N)、IVF 探测的速度/召回权衡、PQ 乘积量化;精确搜索/HNSW/IVF/IVF+PQ 怎么选
- 生产系统:元数据过滤如何以不易察觉的方式破坏 ANN 搜索、索引的增删与新鲜度、升级嵌入模型会发生什么、如何预估内存占用
- 评测:Precision@k / Recall@k / MRR / nDCG 各自衡量什么;排查错误在 embeddings 还是索引;为何榜首模型未必适合生产
「编程与Agent」频道最新
- 实测 Claude Opus 5：autocompact 压到 200k 才不「上下文腐烂」 — bclavie · 2026-08-26
- Hermes Desktop HUD 模式新玩法：AI 直接在屏幕上画标注指路 — Teknium · 2026-08-26
- Agent 痛点：多步任务中“忘记最初指令”的问题 — pagowdsuper · 2026-08-26
- prime-rl 新增本地运行仪表盘，集成日志与配置查看 — samsja19 · 2026-08-26
- prime-rl 0.9.0 发布：自适应并发、SFT 融合 agentic 评测与 CPU 优化器卸载 — samsja19 · 2026-08-26
- 自制 ChatGPT 插件，让 AI 自动更新手机主屏幕小组件 — Dense-Map-406 · 2026-08-26