5B模型仅用K-5语料训练,探索LLM知识边界
_arohan_ · x · 2026-08-15
研究者训练了一个5B参数的LittleLearner模型,其训练语料LittleCurriculum仅限于K-5(小学五年级以下)材料,以探究LLM在受限知识下的表现。该模型已开放聊天,引发对模型能力与训练数据关系的讨论。
「研究」频道最新
- 未发布的 Model 2 得分62.8%,距全替代研究员仅差22.2% — ChrisGPT · 2026-08-15
- Anthropic水印技术基于Google SynthID,可参考其开源实现 — andy_l_jones · 2026-08-15
- Anthropic 引入 Epoch 基准,量化其 RSI 研究进展 — testingcatalog · 2026-08-15
- EGA-DMD 比 MIRT 快数千倍:新模拟显示估计速度提升显著 — GolinoHudson · 2026-08-15
- NYU 等提出“反事实公平性”因果推断框架 — burkov · 2026-08-15
- 自进化 Agent 易遗留隐患,新工具可隔离风险 — dair_ai · 2026-08-15