Unlimited OCR 2 发布：一次吞下 3600 页哈利波特，KV 缓存从 47GB 降到 1.77GB
xiaohu · x · 2026-10-27
文心 Unlimited OCR 第二代发布，引入 Unlimited-Horizon Decoding（无限跨度解码）机制，将文档解析上限从数十页推向数千页：可端到端一次性解析 1200+ 页《三体》全三册、3600+ 页《哈利·波特》七部曲。
核心做法：把文档划成多个页面块，相邻块共享一个边界页；当前块解析完后保留边界页的视觉 KV 与近期输出的文本 KV，进入下一块时复用这些状态、释放不活跃的旧页面缓存，GPU 上只需驻留当前活动块的缓存而不必驻留整本书。测试中这部分缓存显存从 47GB 降到 1.77GB，约 100 页文档上每段生成速度约为第一代的 5.6 倍，解码延迟随文档长度近乎恒定（对比 Full Attention 提速 7 倍）。
效果：同一套多页文档测试从第一代 61.89 分提升到 84.59 分；在 100 份 103–300 页厚文档的更难测试（MarathonDocBench）中得 77.1 分，领先 Qwen3.8-Max（22.9）、Gemini-3.1-Pro（27.0）、DeepSeek-4.1-Flash（12.3）等一众对手。模型重点处理文字与阅读顺序、跨页续表、跨页段落拼接、章节结构和图表位置。
所属事件:百度开源 Unlimited OCR 2：数千页长文档一次解析(5 条相关)→
「Infra」频道最新
- 推理经济学之争：token 降价时 GPU 单卡收入与利润率可以同升 — AccBalanced · 2026-10-27
- Kimi K3 跑在 AMD MI355X 上：吞吐超英伟达 B300 最高 86% — YouJiacheng · 2026-10-27
- InfiX 联合 NVIDIA 推出 miniTE：原生 NVFP4 强化学习提速 1.39 倍 — InfiX-ai · 2026-10-27
- SemiAnalysis：Anthropic S-1 显示推理生意利润极佳，Neocloud 依旧赚钱 — johncoogan · 2026-10-27
- MiniMax M3.1 Flash 智能体成绩超 Opus 5.5，成本低 27 倍 — togethercompute · 2026-10-27
- 不用买机械臂:一张 4070 Ti SUPER 本地跑通 π0.5 具身模型 — lxfater · 2026-10-27