billion-context 开源：100K 窗口跑月级长会话，省 5 倍 Token

aigclink · x · 2026-10-24

billion-context 的 GitHub 仓库（已 2.5k star、218 fork）：一个上下文压缩插件，主打月级单会话（累计十亿 Token）、小窗口即可（100K 足够）、省 5 倍 token，口号「billion-context is all you need」。

核心机制是分层压缩 + 按需恢复：Agent 增量折叠旧消息为摘要，需要时用 decompress 恢复原始内容、用 searchcontext 检索压缩历史；同时保持 prompt cache 前缀稳定以降低成本。仓库结构含 paper、devlog、proof、多套 agent 插件适配（Claude 插件、Codex 插件等），MIT 协议，npm 可装：npm install -g billion-context。