HPD-Parsing 以层级并行解码把解析提速到 4,752 tokens/s
PaddlePaddle · hf · 2026-07-22
HPD-Parsing 用层级并行解码替代整页自回归
这篇工作针对统一式 VLM 文档解析器的顺序瓶颈提出新方案。
- 现有解析器虽然会把整页一起处理,但输出仍然走单一路径的 token-by-token 自回归,文档越长越慢。
- 作者认为文档解析其实有两层需求:一层是 全局布局分析,另一层是 块级内容并行解析。
- 为此他们提出 HPD-Parsing:用一个 主布局分支 组织整页结构,再把块级内容动态分配给多个并发解码分支。
- 另外再加上 progressive multi-token prediction(P-MTP),进一步减少每个分支需要的解码步数。
- 在公开基准上,系统达到 4,752 tokens/s,比最快的已有文档解析模型快 2.62 倍,比原始自回归基线快 3.06 倍。
- 同时解析精度仍保持有竞争力,说明层级并行解码可以成为整页自回归之外的一条可行路线。
所属事件:HPD-Parsing 层级并行解码实现极速文档解析(2 条相关)→
「研究」频道最新
- 新论文给出 Jacobian Lens 数学理论:它捕捉的是「慢而连贯」的特征 — wgilpin0 · 2026-10-27
- 可解释性研究者宣布博士毕业后加入 Goodfire AI,呼吁加速研究 — mathildepapillo · 2026-10-27
- EdgeRock-4B KV cache 256K 上下文仅 72 MiB,比 Qwen3.5-4B 小 99.1% — alifcoder · 2026-10-27
- TRL 上线 Score Centering:直击 RL 训练不稳定的根因 — lvwerra · 2026-10-27
- Latent-Foresight:让世界模型学着预判自己的未来 — abursuc · 2026-10-27
- 英国 AISI 发文:现有手段不足以防生物 AI 工具被滥用 — davidmanheim · 2026-10-27