开发者从零训练 47M 东非语言小模型,手机离线可跑
AgencyInside407 · reddit · 2026-11-13
独立开发者分享了 BULaMU 项目:一族从零训练的小型语言模型(20M/47M/110M 参数),面向低资源东非语言。训练语料在数月内扩充十倍至 40B token,涵盖斯瓦希里语、阿姆哈拉语、索马里语等 5 种东非语言加英语和英语,东非语言占约 90%。作者在 47M 基座上微调出跨语言故事生成模型,模型小到可在无 GPU、无网络的手机上离线运行。
- 在线 Demo:tinyafricanstories.streamlit.app
- 基座与微调模型均已开放在 Hugging Face
所属事件:BULaMU 小模型问世,东非语言可在手机离线运行(2 条相关)→
「研究」频道最新
- LLM 量化入门路线图:9 篇必读论文按序整理 — East-Muffin-6472 · 2026-11-13
- HF 研究员开源 Ettin 系列重排器:6 档尺寸、各规模 SOTA、附完整训练配方 — antoine_chaffin · 2026-11-13
- LightOn 开源 DenseOn 系列:单向量与多向量检索模型双双达 SOTA — antoine_chaffin · 2026-11-13
- 开源 late-interaction 检索模型论文中选 EACL 2027 — antoine_chaffin · 2026-11-13
- NVIDIA VLA 模型开车,Embedl 优化后在 Thor 上达 20 决策/秒 — No-Dragonfly6246 · 2026-11-13
- DeepMind 用 LLM 生成 600 万行 Lean 证明,验证 Signal 加密协议到机器码级 — pushmeet · 2026-11-13