百度开源 Unlimited OCR：R-SWA 固定显存，一次解析 40+ 页文档
aigclink · x · 2026-10-12
百度开源 OCR 模型 Unlimited OCR，针对长文档解析中「速度衰减 + 显存膨胀」的问题，3B MoE（激活 5 亿参数），端到端文档解析，可本地部署，基于 DeepSeek-OCR 微调，GitHub 已 27k star。
核心技术是 R-SWA（模拟人类抄写的工作记忆）：生成每个 token 时始终能看到全部图像视觉 token，但对已生成文本只回看最近 128 个 token，KV cache 变成固定容量队列，因此单 token 注意力开销不随输出长度增长——输出 1 万还是 10 万 token，显存与计算成本都保持恒定。输出 6000 token 时比 DeepSeek-OCR 快约 35%。
- 每页 1024×1024 图像压缩成 256 token，32K 上下文单次前向解析 40+ 页，不漏行不重复（Distinct-35 达 97%）
- 直接输出 Markdown/JSON，支持表格、数学公式、阅读顺序恢复，可作 RAG/知识库数据入口
- 机制可扩展到 ASR、机器翻译等长序列生成任务；已支持 vLLM、ms-swift，论文已上 arXiv
所属事件:百度开源 Unlimited OCR：固定显存解析超长文档(2 条相关)→
「模型」频道最新
- 从首个推理模型到冲击千禧年大奖难题:作者预测 AI 两年再翻倍 — imjustnewatai · 2026-10-12
- AWS 一周 AI 汇总:Claude Haiku 5.5 上线,Nova 2.5 Sonic 主打语音代理 — DigitalColmer · 2026-10-12
- 一周 722 项：曝 OpenAI 数学突破数远超 Google 的 50 项 — Dr_Singularity · 2026-10-12
- Nature：字节化改造让 LLM 终于能数对单词里的字母 — PontiEdoardo · 2026-10-12
- 同一模型换个 harness 就变怂：OpenCode 安全拦截明显强于 Codex — Current_Balance6692 · 2026-10-12
- 网友惊呼 GPT 20 美元档疑似生变，定价调整引关注 — sujingshen · 2026-10-12