AutoIndex 学会写检索索引程序,Recall@100 提升 8.4%
Sam O'Nuallain · hf · 2026-07-23
AutoIndex 把“文档如何入库”变成可优化目标
AutoIndex 提出一种学习 representation programs 的框架:不是只调 retriever、reranker 或少量预处理参数,而是让系统自动搜索一组可执行转换,在索引前对原始文档进行切分、补充、归一化、重加权或重组。
- 方法采用 validation-guided program search:代理先诊断当前索引管线的失败原因,再生成候选更新。
- 只有在验证集上能提升检索质量的更新才会保留。
- 在 CRUMB 这个异构检索基准上评测,所有实验都固定 BM25 不变。
实验结果显示:
- 相比静态的全文 BM25 基线,平均 Recall@100 提升 8.4%
- 平均 nDCG@10 提升 8.3%
- 单任务最大提升达到 Recall@100 +30.5%、nDCG@10 +43.6%
作者的核心结论是:文档表示不该被当作检索前一次性定死的预处理选择,而应该成为显式优化对象。代码已开源。
所属事件:AutoIndex 学习语料专属索引程序提升检索效果(2 条相关)→
「编程与Agent」频道最新
- OpenAI GPT-5.6 Sol 五天解出 6 个 Erdős 问题 — Charuru · 2026-07-23
- 智能体工作流:一个总管代理就能启动 VM 并统一输出 — mattshumer_ · 2026-07-23
- 5 个前沿模型在 20 万条编码提示里幻觉出同一批假包名 — nptacek · 2026-07-23
- Matt Shumer 分享多智能体工作流:用 Workbench 运行 AI 公司 — mattshumer_ · 2026-07-23
- Flowstore 把 LLM 系统提示词做成回归测试 — tap3k · 2026-07-23
- 开发者将 OpenAI Codex 嵌入浏览器:基于 WASM 实现 — cocktailpeanut · 2026-07-23