NeoMME 单塔多模态多语言编码器发布，260M 版 ViDoRe v3 领跑
NeoMME 是包含 260M 与 800M 参数的多模态原生、多语言编码器家族，已由 Hcompany 在 Hugging Face 发布。它放弃了「用大型生成式 VLM 提取表征」的常规路线，从零训练一个原生同时支持文本与图像的编码器，多语言、以速度为设计目标。260M 版在 ViDoRe v3 检索基准上领跑 800M 以下参数量级，团队还基于该编码器做了下游微调。
已确认
- 架构为单塔：单个双向 Transformer 同时处理多语言文本 token 和原始图像 patch，无需预训练视觉塔、文本编码器或解码器，支持 16384 token 上下文。
- 预训练目标为掩码离散扩散（masked discrete diffusion）文本目标，从零训练。
- 提供 260M 与 800M 两个规格，已在 Hugging Face 发布（Hcompany 官方帖 m6）。
- 260M 版在 ViDoRe v3 检索基准上超越同级模型，领跑 800M 以下参数量级。
- 团队基于该编码器进行了下游微调工作。
尚未确认
- 各帖对发布方与作者署名不一致：antoinechaffin 曾先后转述为 LightOn 团队和 Liquid AI 新成员 Aurélien Luciani 发布，另一条署名 Tony Wu 与 Aurélien Lucet；原始发布帖（m5）提到研究者 tonywu71，官方账号为 Hcompany。具体人员与机构归属以官方渠道为准。
为什么重要
- NeoMME 代表了与「先训练生成式 VLM 再提取表征」不同的技术路线：直接以编码器为目标从零训练，参数量小、推理快，适合多语言多模态检索等对延迟敏感的场景。
- 260M 小模型在 ViDoRe v3 上领先同量级乃至更大模型，说明原生多模态预训练加掩码离散扩散目标在小规模表征模型上具备竞争力，为轻量级多模态检索提供了新选择。
2026-09-03 ~ 2026-09-04 · 7 条相关
一手来源
- Hcompany 发布 NeoMME：单塔多模态原生多语种基础编码器 — Hcompany ·
- NeoMME 发布：260M/800M 多模态原生多语言编码器，无需视觉塔 — antoine_chaffin ·
- NeoMME 单塔多模态编码器:260M 参数在 ViDoRe v3 领跑 800M 以下模型 — _reachsumit · 2026-09-03
- 【源头】Hcompany 发布 NeoMME：单塔多模态原生多语种基础编码器 — Hcompany · 2026-09-03
- NeoMME:单塔多模态多语言编码器,260M 版检索成绩超同级模型 — CShorten30 · 2026-09-03
- LightOn 推出 NeoMME：原生多模态编码器，260M/800M 无视觉塔 — antoine_chaffin · 2026-09-03
- 从零训练多模态编码器 NeoMME:260M/800M 无视觉塔,主打快 — CShorten30 · 2026-09-03
- 【源头】NeoMME 发布：260M/800M 多模态原生多语言编码器，无需视觉塔 — antoine_chaffin · 2026-09-04
- Liquid AI 发布 NeoMME：从零训练的原生图文编码器，260M/800M 双规格 — antoine_chaffin · 2026-09-04