10亿参数即达人类行为预测上限，认知微调模型泛化能力研究
socius · hf · 2026-08-10
大型语言模型在微调后可作为人类认知代理，但其规模需求与处理机制尚不明确。研究团队在包含1070万次试错选择的 Psych-101 数据集上，训练了参数量从1.35亿到140亿不等的14个模型。
实验发现，在分布内测试中，模型规模几乎不影响性能，0.6B 到 1B 参数的模型就足以匹配 70B 参数的基线模型。但在分布外（OOD）泛化到全新任务结构时，大模型展现出明显优势。
通过剥离提示词中的不同信息通道（任务指令、刺激内容、结果反馈、选择历史），研究发现屏蔽刺激内容和结果反馈会破坏 75.7% 的学习信息，导致模型表现低于随机水平，证明仅靠选择历史无法支撑模型表现。这表明微调后的小模型有望成为心理学实验的噪声上限估计器，但其能力受限于训练中见过的范式。
「研究」频道最新
- Hugging Face 长文：2026 前沿模型的强化学习后训练演进史 — SergioPaniego · 2026-08-10
- 清华揭示硬提示压缩致命缺陷：指代悬垂致准确率骤降 — Tsinghua · 2026-08-10
- 科普：掩码扩散是连续扩散的离散类比 — alec_helbling · 2026-08-10
- Nathan Lambert 发布 RLHF 教科书：深入解析大模型后训练 — Interconnects (Nathan Lambert) · 2026-08-10
- 机制可解释性研究员 Neel Nanda 分享入门 LLM 研究指南 — NeelNanda5 · 2026-08-10
- 实测用4B/8B模型替换MiniMax H3的32B文本编码器 — Fit_Ad7343 · 2026-08-10