Token Pooling 能否降低长文档 RAG 索引成本
围绕长文档 RAG 成本过高的讨论,有作者以 BEIR 基准测试反驳,指出即使文档经 Pooling 压缩至 32 tokens,仍能达到 hpool@5 的效果且无性能损失。但后续讨论指出,在更现实的 1k token 长文档场景下计算逻辑反转,token pooling 等方法的优势才真正显现。
2026-08-25 ~ 2026-08-25 · 2 条相关
- 文档长度影响算法效率,长文本场景下 token pooling 优势显现 — tomaarsen · 2026-08-25
- Token Pooling 技术可降低长文档索引成本 — antoine_chaffin · 2026-08-25