训练材料仅限五年级水平,LLM 能学到什么?
porridgeraisin · hn · 2026-08-16
Little Learner 项目探索了一个有趣的假设:如果大语言模型在训练过程中只接触五年级及以下难度的文本,其能力和表现会发生什么变化?该项目通过实验展示了受限数据集对模型认知深度与推理能力的影响。
「研究」频道最新
- VPO 后训练方法引关注:训练模型输出多样化好答案 — lateinteraction · 2026-10-16
- 797GB n-gram 表存进 CPU 内存,1B 规模预训练多榨 57% 算力 — anshulkundaje · 2026-10-16
- 新文警告:AI 认知建模把可证伪性当硬指标,会被 reward-hack — AndrewLampinen · 2026-10-16
- SPLICE:用参考解提示修复模型失败推理,AIME 与奥数证明双提升 — behrouz_ali · 2026-10-16
- JAMA 推出子刊 JAMA AI,专注临床级 AI 与数字健康研究 — pshrink · 2026-10-16
- 给预训练 Transformer 换上 Titan 模块:推理提速且性能损失有限 — behrouz_ali · 2026-10-16