缓解大模型创造力下降：CreativeInstruct 后训练法提升叙事与推理多样性
EliasEskin · x · 2026-08-11
后训练（如 RLHF）虽然能提升大模型的能力，但往往会导致输出同质化、扼杀创造力。这篇论文提出了 CreativeInstruct 方法，旨在让模型兼顾高质量与高多样性。
核心机制：
- 利用基座模型和对齐模型的路由策略生成训练数据，并将基座模型生成的片段用特殊标签包裹。
- 对模型进行后训练，使其学会在合适的位置自主引入创造力，无需在推理时部署多个模型。
评估与效果：
- 提出了基于图编辑距离（LLM-GED）的新评估指标，以捕捉超越词汇层面的叙事结构多样性。
- 在 8B-32B 模型上的测试表明，该方法不仅提升了叙事生成的多样性，人类评估也显示其更具创造力（70.3% 的胜率）。
- 作为强化学习的基底，该方法在 AMC 和 MATH 数据集上分别带来了约 4% 和 5% 的提升。
所属事件:CreativeInstruct 发布：破解大模型创造力坍缩难题(2 条相关)→
「研究」频道最新
- AISI 研究者推动评测报告标准化，平台已收录 67.5 万评测数据点 — evijit · 2026-09-23
- DFT 生成数据多达 58% 物理不自洽，物理仿真数据集隐忧 — josephdviviano · 2026-09-23
- 三位数学家质疑 OpenAI Navier-Stokes 工作:只需解 1 题却解 2 题被指避重就轻 — aran_nayebi · 2026-09-23
- 实测三个 Agent 框架跑 GLM-5.3 与 Kimi:同一模型行为因 harness 大不同 — bhutanisanyam1 · 2026-09-23
- CAIS 新基准：GPT-6 Astra 可自动化 20.8% 远程工作，一年前仅 2.5% — scaling01 · 2026-09-23
- AWS 推出技能级 Agent 评测：查选错技能与漏步骤 — AWS ML Blog · 2026-09-23