CreativeInstruct：解决大模型后训练创造力坍缩的新方法
EliasEskin · x · 2026-08-11
Elias Eskin 等人发布 CreativeInstruct，这是一种可扩展的后训练方法，旨在解决大语言模型（8B-32B）在后训练阶段常出现的“创造力坍缩”问题。
核心机制：该方法通过在训练数据中引入特殊的 [StartCreativity] 标签，引导模型在生成时平衡对齐能力与基础模型的创造力。
评估指标：团队提出了基于图编辑距离（LLM-GED）的结构多样性指标，以捕捉传统词法或语义指标遗漏的叙事级变化。
实验结论：在叙事生成任务中，CreativeInstruct 不仅维持了生成质量，还显著提升了多样性。此外，经过该方法微调的模型为强化学习（RL）提供了更好的探索底座，在 OOD 数据的推理任务上表现更优。
所属事件:CreativeInstruct 发布：破解大模型创造力坍缩难题(2 条相关)→
「研究」频道最新
- 双模型分工:MatBrain 用 48 小时筛选 3 万个晶体候选材料 — bravo_abad · 2026-09-23
- Scale AI 发布 SWE-Bench Pro V2 基准 — bigblueboo · 2026-09-23
- 新论文:把 VLM 的智能迁移到机器人控制 — _akhaliq · 2026-09-23
- 南洋理工 UMM 研究:原生多模态中理解与生成互相增益但共享有冲突 — jiqizhixin · 2026-09-23
- CoRL 2026 工作会聚焦：控制器与硬件比算法更影响机器人表现 — pulkitology · 2026-09-23
- Xeno-Interpretability 论文追问:可解释性之外还有什么? — burny_tech · 2026-09-23