DistilVDR:524M 参数小模型逼近 8B 检索能力
nanovdr · hf · 2026-08-12
DistilVDR 是一个仅有 524M 参数的端到端视觉文档检索器。研究采用双学生蒸馏机制,在无需相关性标签的情况下,利用余弦对齐将 8B 参数教师模型的能力压缩到该小模型中,在保持接近教师模型准确率的同时,大幅缩小了索引体积并提升了检索速度。
「研究」频道最新
- LlamaIndex 推出 ExtractBench:覆盖 8 大领域 4869 页复杂文档 — llama_index · 2026-08-12
- Mitsuhiko等呼吁学术界应多点直接批评少点玻璃心 — cloneofsimo · 2026-08-12
- AI 音乐不必是“电子垃圾”:交互式生成音乐的新趋势 — jordiponsdotme · 2026-08-12
- Decoding-Level Taboo: 大模型推理路径鲁棒性测试 — Tadanobu Chuyo Kamijo · 2026-08-12
- AI记忆评测基准遭质疑:评分指标差异致偏差24% — True_Mongoose_7073 · 2026-08-12
- Agent 框架影响实测:Rust 编写框架跑满 10 项任务 — VoidAsuka · 2026-08-12