Cohere Labs 论文:数据混合策略让 3.35B 模型 60 种语言母语推理率超 93%
ShahabBakht · x · 2026-09-24
Cohere Labs 研究员 Mehrnaz Mofakhami 将于 9 月 28 日直播解读其新论文《Building Multilingual Bridges: Data Mixing as the Pillar of Generalization for In-Language Reasoning》（arXiv:2609.10445）。
论文要点
- 问题：推理模型严重英语中心化——无论用什么语言提问，模型主要用英语推理，损害非英语用户体验并丢失目标语言知识
- 提出 L2 reasoning：模型在用户提问语言中一致推理，从数据角度优化 SFT 的数据组成与调度
- 构建 3.35B 的 Tiny Aya L2-Thinker，在覆盖数学、常识、指令遵循、开放生成、文化推理的 6 个 benchmark、60 种语言上，L2 推理率超过 93%，同时保持性能
「研究」频道最新
- 腾讯混元扩展 critical-batch-size 理论:GRPO 训练提速 29%,PPO 生成吞吐达 2.29× — TencentHunyuan · 2026-09-24
- 研究者直言 activation steering 太粗糙,该学模型内部几何语言 — cephaloform · 2026-09-24
- Neel Nanda 团队发布 WorkspaceBench：检验可解释性工具的专用评测 — burny_tech · 2026-09-24
- SchrödingerRepo:动态改写仓库揭示 SWE-bench 记忆化问题 — SJTU · 2026-09-24
- 自回归视频生成的记忆机制:首篇系统性综述发布 — Harold Haodong Chen · 2026-09-24
- 机器人后训练被低估:用自博弈在仿真中训练策略再上真机 — ZGojcic · 2026-09-24