把长文本转成图片省 Token?Snapcompact 压缩法实测降本 50%
arpit_bhayani · x · 2026-08-03
Stencil 团队提出了一种名为 Snapcompact 的上下文压缩方案:当模型的上下文窗口耗尽时,不再进行常规的文本摘要,而是将文本渲染成极其密集的像素字体位图(PNG 图片)交还给模型。
核心机制与数据:
- 一张 1568×1568 像素的 PNG 图片可容纳约 4 万个字符(约 1 万 Token)。
- 利用多模态模型的视觉能力读取这些图片,成本仅为纯文本输入的约三分之一。
- 在 Claude、GPT-5.5、Gemini 等模型上的测试显示,该方法在保持相同回答质量(F1 平价)的前提下,能将总推理成本降低约 50% 甚至更多,同时避免了传统文本摘要带来的信息丢失或模型拒绝回答(Abstain)的问题。
「Infra」频道最新
- Cloudflare 启动 Agents Week,Workers 现已支持 gRPC — ritakozlov · 2026-08-03
- Cloudflare 推出 Billable Usage API,提供程序化成本监控 — ritakozlov · 2026-08-03
- Cloudflare Workers 与 Containers 宣布支持 gRPC 及入站 TCP — ritakozlov · 2026-08-03
- Cloudflare 推出 @cloudflare/computer:为每个 Agent 配备专属计算环境 — threepointone · 2026-08-03
- Turso 数据库突破 SQLite 限制,正式支持并发写入 — glcst · 2026-08-03
- Cloudflare 详解大规模运行 Kimi 与 GLM 的推理优化 — michellechen · 2026-08-03