OpticalRAG:文档渲染成图压缩至 16 个 token,三项基准压缩感知精度最佳
kalyan_kpl · x · 2026-11-11
OpticalRAG 提出像素空间压缩的 RAG 框架:把文档渲染为页面图像,用冻结的视觉编码器编码,再把检索到的视觉 token 蒸馏到最少 16 个 token 注入 LLM。无需昂贵的跨模态训练,靠两个设计:Encoder-Bridged Retrieval(编码器桥接检索)和 Query-Driven Distillation(查询驱动蒸馏)。在 LongBench-v2、BAMBOO、LooGLE-v2 三个基准上均取得最佳压缩感知精度(CAP),仅注入 16 个 token。
「研究」频道最新
- Explosion 发布 Ellf 目录:52 个 NLP 模板与多智能体标注工作流 — _inesmontani · 2026-11-11
- STABLE 优化器入选 NeurIPS 2026,从优化器层面遏制持续学习遗忘 — v_lomonaco · 2026-11-11
- 从 Bahdanau 到 FlashAttention:一图看懂注意力机制八年演进史 — cneuralnetwork · 2026-11-11
- 三年造 CPU、内存与脉冲网络:一位芯片爱好者的加速器之路 — k7agar · 2026-11-11
- 数学家 Strogatz 探问:当 AI 成为「神谕」,数学将走向何方 — stevenstrogatz · 2026-11-11
- 从莱布尼茨行列式到向量空间:线性代数两百年演化一图看懂 — burny_tech · 2026-11-11