RING 把检索内化进模型,速度快过 RAG 3 到 19 倍
_reachsumit · x · 2026-08-04
- 论文提出 RING(Retrieval-Internalized Generation):把大规模外部知识直接注入模型参数,而不是在服务端依赖外部检索器。
- 它通过强化学习让模型在内部记忆上学会参数化搜索,试图把检索逻辑“内化”进模型本身。
- 训练分三步:继续预训练注入新语料、监督微调学习“先搜再答”的模式、再用层级奖励的 RL 优化路由与搜索策略。
- 作者还构建了 News-2025 基准,来自基础模型预训练截止日之后发布的新闻,用来评估真正的新知识注入,避免测试集泄漏。
- 结果上,RING 在保持或超过 RAG 效果的同时,推理速度据称可快 3–19 倍。
「研究」频道最新
- Reliquary-4B 发布:全网矿工贡献 rollout 的去中心化 RL 训练数学代码模型 — const_reborn · 2026-09-22
- 读一年 AST 代码 RAG 论文后,他把整个代码库索引进一个 SQLite 文件 — _solidude · 2026-09-22
- KAIST 提出无结构单目 VIO 初始化法 SLIM-init,入选 IROS 2026 — zhenjun_zhao · 2026-09-22
- LoG-VGGT:跨窗口注意力让长序列 3D 重建内存可控 — zhenjun_zhao · 2026-09-22
- VoxelTTO:体素对齐前馈 3DGS 加测试时优化,仅 80 GPU 时训练 — zhenjun_zhao · 2026-09-22
- Info3R:信息自适应测试时训练,KITTI 位姿误差降至 1.68 倍 — zhenjun_zhao · 2026-09-22