46M 参数卢干达语原生模型完成预训练,两轮对话后仍会崩

weskambale · x · 2026-11-13

开发者 weskambale 介绍其新训练的 Pearl Chat——一个 4600 万参数的卢干达语(乌干达主要语言)原生模型。预训练结果显示语法、拼写和句式建模已有可观的进展,但多轮对话仍是短板:模型在两轮对话后会崩溃。

由于 SFT 数据集规模有限,团队启动了新的数据采集管线来扩充卢干达语文本和对话数据;下一步计划训练 1.5 亿参数版本。配图展示了模型用卢干达语回答乌干达地理常识问题的实际对话效果。

所属事件:开发者训练 46M 参数卢干达语原生模型,多轮对话仍易崩溃(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →