研究仅用小学课程训练5B模型探LLM知识边界

研究人员推出LittleLearner，一个从零训练的50亿参数模型，其训练语料LittleCurriculum严格限定为美国K-5（幼儿园至五年级）课程内容，规模达880亿token。项目旨在探究LLM在知识受限情况下的表现，以及"习得技能"与"激发已有知识"之间的界限，模型已开源。

2026-08-15 ~ 2026-08-17 · 4 条相关

• 5B模型仅用K-5语料训练，探索LLM知识边界 — _arohan_ · 2026-08-15
• 仅用小学教材训练5B模型：LLM知识受限会如何？ — MatthewMcAteer0 · 2026-08-16
• 研究：仅用小学课程预训练能教LLM学会技能吗 — sdroege_ · 2026-08-16
• 仅用5年级材料训练5B模型，LittleLearner开源 — JeremyNguyenPhD · 2026-08-17