训练 46M 参数卢干达语小模型：两轮对话即崩溃
weskambale · x · 2026-11-13
开发者 weskambale 分享了 Pearl Chat 的训练进展——一个 46M 参数的卢干达语原生小模型。预训练在语法、拼写和句子结构建模上进展不错，但多轮对话仍是硬伤：模型在两轮对话后就会崩溃。
团队认为 SFT 数据量与多样性不足是主因，已启动新的数据采集管线来收集卢干达语散文与对话语料。下一步计划训练一个 150M 参数的模型。
所属事件:开发者训练 46M 参数卢干达语原生模型，多轮对话仍易崩溃(2 条相关)→
「模型」频道最新
- 博主押注 GPT-6.2 将于 11 月 19 日前发布,并给出三种推迟原因 — kimmonismus · 2026-11-14
- llama.cpp 发布 v1.0.0，八年里程碑版终于到来 — reach_vb · 2026-11-14
- 开发者观察:Fable 5.2 的设计品味已超过 Opus 5.5 — adonis_singh · 2026-11-14
- 5400 次真机测试：Claude Fable 5.2 以 65% 成功率领跑机器人 agent 评测 — ricklamers · 2026-11-14
- Google Antigravity 上线 Gemini 4 Hydrogen 与 Orchestrator 混合调度 — minchoi · 2026-11-14
- LMArena 数据:榜首分数移动快 3 倍,4 月最佳模型成本降至 1/20 — arena · 2026-11-14