DistilVDR:524M 参数小模型逼近 8B 检索能力

nanovdr · hf · 2026-08-12

DistilVDR 是一个仅有 524M 参数的端到端视觉文档检索器。研究采用双学生蒸馏机制,在无需相关性标签的情况下,利用余弦对齐将 8B 参数教师模型的能力压缩到该小模型中,在保持接近教师模型准确率的同时,大幅缩小了索引体积并提升了检索速度。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →