法律 AI 搜索 P99 从 100ms 恶化到 20s,Legora 迁移复盘
AI Engineer · youtube · 2026-09-17
AI Engineer 频道本期请到 turbopuffer 的 Simon Eskildsen 与 Legora 的 Jacob Lauritzen，完整复盘 Legora 法律文档搜索架构的演进与踩坑。
- 故障根因:法律业务以「项目」为单位，项目被密集使用后往往永久闲置。团队把文档分片到 4000 个分区后，死项目与活项目的数据落在同一分区，每次查询都把超大分区拉进内存，缓存反复被逐出——P99 延迟从 100ms 恶化到 20 秒，而问题在 schema 层完全不可见。
- 演进路径:从单一搜索集群，到三大洲客户要求数据不出境后按区域分集群，再迁回团队已有的通用数据库——正是在这一步出了问题。
- 解法:以项目为存储单元，每个项目一个独立 namespace,闲置项目沉到对象存储几乎零成本。
- 为什么适合金融/法律客户:namespace 作为原子单元，每个 namespace 可携带独立加密密钥与独立 bucket——这正是银行和大企业所说的「物理隔离」与「撤销密钥即数据不可读」。
- 精彩实验:团队没有把加密做进 SSD 缓存，而是直接关掉缓存看性能有多糟，结果发现可接受，就干脆不用了。
- 后半部分是存储工程课：对象存储 200ms 往返为何主导延迟、树结构为何优于图导航、Web 规模全文检索为何比向量搜索更贵。
「编程与Agent」频道最新
- Meta Muse Code 编码 Agent 原生登陆 Windows,无需 WSL — AIatMeta · 2026-09-17
- AI 员工创企 Delos 融资 1000 万欧元,已在 300 多家公司投产 — iamfakhrealam · 2026-09-17
- 写作者用 Claude 桌面端自建越用越懂自己文风的写作插件 — every · 2026-09-17
- Intent 推出免费桌面应用,用规格驱动编排大规模多智能体 — LukeW · 2026-09-17
- Google 开放智能家居,允许 Claude 等第三方 Agent 经 MCP 控制 — The Verge AI · 2026-09-17
- Reddit 长文:用「持久基底」与「执行基底」重新定义 Agent — D777Castle · 2026-09-17