COLM 2026 论文:低质数据让 LLM 染上「脑腐」,推理跳步出错
_vztu · x · 2026-10-21
受 2024 年牛津年度词汇「brain rot」启发,Texas A&M、UT Austin、NTU 与 Purdue 的合作研究发现:用低质量数据训练 LLM 会导致「thought skipping」——模型跳过推理步骤,产出不完整或错误的答案。该工作入选 COLM 2026,并被 Texas A&M 大学官方报道。作者强调,提升训练数据质量与改进模型本身同等重要。
「研究」频道最新
- 曝小团队后训练 Qwen3 27B,GQA 转 MLA 省 8.4 倍 KV 缓存 — ChrisGPT · 2026-10-21
- EAGLE-4 投机解码实测：agentic 编码场景提速最高 5.21 倍 — zhyncs42 · 2026-10-21
- EAGLE-4 发布：投机解码冲上 961.6 tokens/s，代码与仓库开源 — zhyncs42 · 2026-10-21
- GATOR：从随手拍摄实现生成式 3D 物体重建 — kwangmoo_yi · 2026-10-21
- Claudini：AI 自动研究破解 LLM，越狱成功率远超现有方法 — maksym_andr · 2026-10-21
- 三种 JEPA 变体对比：机器要预测得多准才能学会规划？ — TheTuringPost · 2026-10-21