CreativityNeuro 通过权重干预提升 LLM 发散思维
ParshinShojaee · x · 2026-07-21
CreativityNeuro 提出一种通过调整语言模型权重来提升发散思维、减少 mode collapse 的方法,而不是只在激活空间里做 steering。
论文给出的流程是:
- 用一对对照式创造力提示词找出与创造力相关的参数
- 对这些参数中的稀疏子集施加缩放后的权重扰动
- 在多个任务上提升模型的发散思维表现
作者的结论是:权重空间 steering 的 OOD 泛化能力,整体优于激活空间 steering。
「研究」频道最新
- AW-0 世界动作模型发布:一个生成式模型同时管规划、预测与控制 — trevordarrell · 2026-10-27
- EMNLP 论文:报告偏误卡死 VLM 推理,堆规模救不了 — RanjayKrishna · 2026-10-27
- MissionReport 基准:540 份政府任务报告仅 3 份全达标 — Exp_Mark · 2026-10-27
- Finch 1 发布:用 50+ 种传感器影像训练的通用地理空间基础模型 — Scobleizer · 2026-10-27
- Skyfall AI 推出工程世界模型 SKY-001:文本转 CAD 构建,3.9 秒 vs GPT-6 的 199 秒 — rohanpaul_ai · 2026-10-27
- 物理学家让 AI 自选课题:两小时产出可登顶刊的论文 — burny_tech · 2026-10-27