MOJO 预印本：混合监督与自监督损失训练神经基础模型
hugo_larochelle · x · 2026-07-25
这篇预印本研究一种用于神经基础模型预训练的混合损失方法，目标是在有标注和无标注神经数据混合场景下发挥更好效果。
- 作者提出 MOJO，一个结合自监督和监督学习的框架，思路借鉴了 POYO 和 POSSM 风格模型。
- 实验显示它能提升解码效果和 few-shot 迁移能力。
- 该方法还带来了更可解释的 unit embedding，并在多个神经数据集与任务上展现出一些额外优势。
「研究」频道最新
- Anthropic 说，Fable 5 拦下的生物请求将转给 Opus 5 — nc_frey · 2026-07-25
- Manifold Muon 提出一种不依赖损失的 MoE 路由训练法 — tokenbender · 2026-07-25
- Codex 多智能体编排：Scout、Worker、Coordinator 分工协作 — pvncher · 2026-07-25
- AI 能扫更多代码，但软件质量仍要工程师拍板 — ingliguori · 2026-07-25
- NVIDIA 转发动作生成模型：动作片段复现成功率达 99.98% — Syntetisaattori · 2026-07-25
- 一篇新文把 AGI 竞争拆成南坡和北坡两条路 — op7418 · 2026-07-25