Bridgewater 1 亿份权限文档检索难题:turbopuffer 原生过滤做到 120ms P90
AI Engineer · youtube · 2026-10-25
AI Engineer 播客视频,Bridgewater 产品工程负责人 Aaron Linsky 与 turbopuffer CTO Nikhil Benesch 对谈 AI 分析师场景下的权限化向量检索:
- 背景:Bridgewater 的 AI analyst 需要读取内部研究文档,但每封邮件、备忘录都带独立权限;其 Vault 系统存有 1 亿份带权限的文档,第一版检索方案在此规模下崩溃
- 问题拆解:后过滤(先搜后删)会丢失召回率;前过滤(每个权限组合单独查询)太慢;暴力搜索在 4 亿向量规模下数学上不可行
- 解法:turbopuffer 的 "native filtering"——在聚类向量索引上原生执行权限过滤,兼顾召回与速度
- 结果:4 亿向量、1 亿文档规模下实现约 120ms P90 检索延迟
视频章节覆盖向量索引原理、权限如何破坏索引、过滤策略对比与实践中如何编写权限过滤器,对做企业级 RAG/权限感知检索的工程师很有价值。
「Infra」频道最新
- Izwi 0.1.0 发布:全本地语音 AI,集 TTS/克隆/转写一身 — zinyando · 2026-10-26
- 前沿攻防对抗升级,安全模型或率先催生量子计算需求 — BenBajarin · 2026-10-26
- DesignArena 数据:Gemini 3.8 Flash 发布一个月后输出质量明显退化 — legit_api · 2026-10-26
- Perplexity 开源决策模型可本地跑:5B 蒸馏自 7B,Mac 免费无 API — Saboo_Shubham_ · 2026-10-26
- 图解数据中心融资结构:SPV 模式让巨头债务移出资产负债表 — SumitGup · 2026-10-26
- OpenAI 曝光 GPT-7 训练细节:打造缓存网页「离线世界」供前沿 RL 使用 — daniel_mac8 · 2026-10-26