开发者推测长训练致 Qwen 底座多语言能力退化，拟补多语言数据
antoine_chaffin · x · 2026-10-31
Hugging Face 研究者 Antoine Chaffin 回应关于 Wolof 语言（塞内加尔语）表现的质疑，认为这几乎可以肯定是底座能力所致，而非针对性训练：他们（以及对方）很可能都基于 Qwen 底座。如果 Wolof 成绩差距确实很大，可能说明更长时间的训练损失了一部分多语言能力，他计划补充多语言数据来缓解，但也怀疑这难以显著提升 Wolof。
后续他表示会尝试 mLateOn 式的「翻译增强泛化」方法看是否对全体语言有效，并向对方征集公开的 Wolof 评测集，以便探测底座模型是否在训练中出现退化。
「模型」频道最新
- Gemini 4 Carbon 曝 FrontierCS 2 得分 53 FCI，较 Argon 数周内大幅跃升 — clmt · 2026-10-31
- 爆料称 Gemini 3.5 Pro 多次跳票未发,评论指谷歌败在恢复速度 — tarantulae · 2026-10-31
- Vals 代码迁移榜:Sonnet 5.5 以 86.88% 夺冠,DeepSeek 只花 $1.76 — davidbau · 2026-10-31
- LiquidAI 推出 LFM3-VL 端侧 2B 图文模型,冲上 HF 热榜 — LiquidAI · 2026-10-31
- OpenAI 新政:Pro 订阅按档位送等额 API 额度,$200 档白赚 — Quiet-Recording-9269 · 2026-10-31
- Qwen 代码库现 Qwen4 痕迹：默认 1M 上下文，还有 qwen4-omni-120b-think — mark_k · 2026-10-31