HuggingFace 研究员发现 DeepSeek 用 SmolVLM 筛选预训练图文数据

eliebakouch · x · 2026-09-10

Hugging Face 研究员 Elie Bakouch 阅读 DeepSeek 技术报告时注意到,DeepSeek 在预训练数据管线中用 SmolVLM 对图像-文本内容做严格质量评分,以抽取高质量交错数据。他认为这种对预训练数据的细致处理在其他模型的技术报告里很少见。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →