18 个月做到 1 亿美元 ARR：法律 AI Legora 的检索架构复盘

DevinLewtan · x · 2026-11-13

turbopuffer 发布案例：法律科技公司 Legora 18 个月内做到 1 亿美元 ARR，服务 80+ 市场的 13 万+ 法律从业者，在 turbopuffer 上索引超 40 亿份法律文档（链接正文称检索规模 20 亿+），供律师研究、起草和审阅。

架构演进路径：最初用自托管 Elasticsearch，但大客户合同要求按客户隔离存储，每客户一套集群不可行；迁移到 Azure 上的 pgvector + DiskANN，沿用每租户一个 Postgres 库的模式解决了隔离问题，但引入新麻烦；最终换到 turbopuffer，实现 100ms p90 延迟、98% recall@10，兼顾法律级数据隔离、高召回与低延迟。其文档团队负责所有法律文档的抽取、解析、分块、嵌入与索引，核心目标是让代理不浪费 token 读错上下文——在推理预算受限的情况下，token 效率决定了产品能力上限。