DeepSeek 被发现用 SmolVLM 严格筛选预训练图文数据

Hugging Face 研究员 Elie Bakouch 在阅读 DeepSeek 技术报告时注意到，其预训练数据管线中使用了 SmolVLM 对图像-文本内容进行严格的质量评分，以抽取高质量的交错式（interleaved）数据，并感慨自家团队的工作被业界采用。他随后更正说明，这一做法出自 DeepSeek 此前的旧技术报告，而非最新模型的技术报告。

2026-09-10 ~ 2026-09-10 · 3 条相关

• 新模型技术报告用 SmolVLM 给图文数据做严格质量打分 — eliebakouch · 2026-09-10
• HuggingFace 研究员发现 DeepSeek 用 SmolVLM 筛选预训练图文数据 — eliebakouch · 2026-09-10
• HuggingFace 研究员更正:用 SmolVLM 筛数据的是 DeepSeek 旧技术报告 — eliebakouch · 2026-09-10