Token Pooling 能否降低长文档 RAG 索引成本

围绕长文档 RAG 成本过高的讨论,有作者以 BEIR 基准测试反驳,指出即使文档经 Pooling 压缩至 32 tokens,仍能达到 hpool@5 的效果且无性能损失。但后续讨论指出,在更现实的 1k token 长文档场景下计算逻辑反转,token pooling 等方法的优势才真正显现。

2026-08-25 ~ 2026-08-25 · 2 条相关