仅用小学教材训练5B模型 探究LLM知识边界
为探究 LLM 在知识受限情况下的表现,研究者训练了 5B 参数的 LittleLearner 模型,其训练语料 LittleCurriculum 仅包含幼儿园至五年级(K-5)的小学教材。该实验旨在考察大模型在知识深度受限时的能力与局限,目前模型已开放。
2026-08-15 ~ 2026-08-16 · 2 条相关
- 5B模型仅用K-5语料训练,探索LLM知识边界 — _arohan_ · 2026-08-15
- 仅用小学教材训练5B模型:LLM知识受限会如何? — MatthewMcAteer0 · 2026-08-16