CreativityNeuro 通过权重干预提升 LLM 发散思维
ParshinShojaee · x · 2026-07-21
CreativityNeuro 提出一种**通过调整语言模型权重**来提升发散思维、减少 mode collapse 的方法,而不是只在激活空间里做 steering。 论文给出的流程是: - 用一对对照式创造力提示词找出与创造力相关的参数 - 对这些参数中的稀疏子集施加缩放后的权重扰动 - 在多个任务上提升模型的发散思维表现 作者的结论是:**权重空间 steering 的 OOD 泛化能力**,整体优于激活空间 steering。
「研究」频道最新
- 快手提出不确定性感知排序,缓解短视频标签偏差 — _reachsumit · 2026-07-21
- 证据呈现方式会明显改变 RAG 的支持事实使用 — _reachsumit · 2026-07-21
- 稀疏多模态表示显著提升冷启动推荐准确率 — _reachsumit · 2026-07-21
- Raschka 分析推理 effort 如何改写模型任务曲线 — AxSaucedo · 2026-07-21
- 低温八通道光到微波转换器引发射频光子学讨论 — jwt0625 · 2026-07-21
- 一篇文章拆解 AI 系统里的上下文压缩机制 — blaizedsouza · 2026-07-21