SparseRead不改模型,token最多省92.9%

Read Less, Solve More: Token-Efficient Sparse Reading of External Content for AI Agents

Zedong Liu, Jiaan Wu, Xinyang Ma, Le Xu, Kai Wang, Yuanchao Hu, Dingwen Tao, Guangming Tan

cs.AI

2026-08-23

SparseRead 在模型与外部材料之间加阅读控制,不改权重。六模型、五类任务上 token 最多降 92.9%,耗时最多降 89.0%,97% 的设置分数不降。

这篇在解决什么

Web agent 读网页、PDF、仓库和工具返回,接口却常整份交货,下一步往往只用几段。外部观察占轨迹 token 的 60%-80%,还会在后面的调用里反复重放。

证据本身很窄。LooGLE 上标注证据中位数只占源文 token 的 3.17%,同文档五问合计 2.89%;可答的 Qasper 约 5.8%。这是占比,不是定位成本。扫完全表做求和,模型也可以只看结果、行数和出处。

不做控制时,高稀疏任务最多多花 17.3 倍 token,分数不更高。多余段落稀释证据,引出错误调用和来源混淆。长上下文与 KV 压缩不决定放进哪一段;ACON、观察遮罩和检索各管一段,但没有意图、覆盖、暴露上限和全文回退合成的准入。

方法

SparseRead 不改模型,也不另训压缩器。控制面负责意图、选路和准入,证据面是可替换的 Reader,契约都是 Read Intent 进、EvidencePack 出。

Agent 每次提交结构化意图,写明这一步要什么,并优先于从首问抽出的 session intent。意图含糊就给有界预览。动作固定五个:scout、focus、collect、refine、verify。返回带源锚点、处理范围、暴露量和逐槽覆盖;覆盖只标哪条已有证据、哪条仍空,够不够由 agent 定。同一材料版本、同一目标的连续访问算一个 episode,共享记录和预算。SHA-256 指纹变化,旧证据作废。

Reader 覆盖文本与 PDF、表格与 JSON、多文件和脚本库。定位方式和暴露形态分开。文本走词法、BM25 窗口或混合检索;表格可以投影,也可以全表计算后只交结果和出处。可靠度达标的配置里选估计成本最低者,可靠度按标注开发请求上是否取到证据校准。没有合格配置就回退全文。

闸门把最便宜的忠实全文长度记为 L,episode 内不变。累计稀疏暴露 E 按字符计,不得超过 L。对象很小、必须看全量或没有 Reader,走原生全文。下一批放不下,整批改发全文,不截断证据。单个 episode 未加权暴露因此不超过 2L。

补上覆盖记录后,长书、多文件、PDF 与 Web 搜索的总 token 降幅为 2.1 倍到 6.3 倍。高稀疏问答和审计降 80%-88%;全局统计、规则编码若强制稀疏,token 增至 309% 和 210%,所以要在下一批超预算前切回全文,而不是事先猜档。NanoBot v0.2.0 直接注册工具,OpenCode v1.17.14 与 OpenClaw v2026.6.11 用薄适配器接入。SKILL.md 只建议,预算在核心执行。

结果

NanoBot 上六模型、五场景,30 个设置:Qwen3.6-Plus、DeepSeek-V4-Flash、DeepSeek-V4-Pro、GLM-5.1、Kimi-K2.5、Claude Opus 5。对照是 Naive,端到端,含检索开销。

范围token时间分数
全部 30 格降 15.7%-92.9%,中位降 61.4%降 23.0%-89.0%,中位降 53.7%29/30 不降
长上下文降 76.5%-92.9%降 67.1%-89.0%不降
多文件诊断降 26.8%-74.5%见整体区间六模型不降
结构化分析降 15.7%-64.1%见整体区间六模型不降
Web 深搜降 31.0%-43.0%降 23.0%-37.0%六模型加 5-14 个百分点
科学脚本降 82.7%-89.1%降 28.3%-63.0%五模型不降

唯一掉分的是 GLM-5.1 的科学脚本。97% 即这 29/30。Opus 5 五场景 token 降 41.0%-89.0%,时间降 35.0%-78.1%。

十五格对比 RAG Static、RAG Agent、ACON 和只留最近十次观察的遮罩。SparseRead 分数都不降,token 降 27.0%-92.9%,时间降 23.0%-88.9%;token 最少 6 格,时间最少 9 格。多文件诊断上五模型两项都最低,分数相对 Naive 高 17.8-34.5 个百分点。RAG Static 的 Web 五格都更快,但十五格有九格低于 Naive。RAG Agent 八格掉分、八格更慢;ACON 五格掉分、六格成本双升;遮罩五格掉分。

OpenCode、OpenClaw 加上 NanoBot 共十八格,token 与时间全降,分数十五格不降。中位 token 降幅,NanoBot 65.0%、OpenCode 65.2%、OpenClaw 30.6%;时间中位 59.3%、63.9%、28.8%。掉分三处,幅度 0.013-0.031,两处是 NanoBot 与 OpenCode 上的 DeepSeek-V4-Pro,一处是 OpenCode 上的 Kimi-K2.5。Kimi-K2.5 在 NanoBot 上 token 降 92.9%、分数加 0.598、时间降 85.4%。

意图两者合用,重复阅读从 4.8 降到 1.5 次/题,无溯源证据从 28% 降到 8%,有效核对从 37% 升到 89%,缺证据致错从 25% 降到 5%。741 问、47 篇 LooGLE 上,命中须盖住 80% 标注:词法 39.5%(780 字符),BM25 60.1%(1497),hybrid 65.3%(1490);窗口加宽后 2106 字符,命中 56.7%。交付前查预算,暴露比 1.62-1.93,15 次有 5 次升全文;交付后查会到 2.10-2.33 倍。

为什么重要

token 大头来自外部观察时,先管准入,比继续加长上下文更对症。Web 深搜少读三到四成,分数却升 5-14 个百分点,多出来的材料是在稀释证据。

三框架不重训就能接。OpenClaw 中位降幅大约只有另两个的一半,省多少要看原来是不是整对象倾倒。低稀疏任务强制稀疏会读亏,闸门的工作就是在暴露顶满 L 之前退回全文。

局限与存疑

2L 只限一个 episode 内的未加权暴露,不是账单 token,也不是墙钟或重放成本。前缀缓存另算。已花的不退,保证也不跨 episode 累加。

主表偏高稀疏。低稀疏上强制稀疏会多花 token 的案例留在动机实验,没进 30 格;结构化分析的降幅可以低到 15.7%。92.9% 是上沿。97% 只是 NanoBot 的 29/30,三框架合计 15/18。GLM-5.1 科学脚本掉分,选库失败和过早回退没有分开报。

配置选择器相对固定后端的增益,消融没有分开测。无标注的新材料会直接全文。Web 五格里 RAG Static 都更快。示意图的小模型写成 Qwen3.5-35B,第六节用的是 Qwen3.6-Plus。

术语

原文与代码

相关论文

全部论文解读