微软用强化学习训练「夜科学」智能体,科研方向扩展 27.8%
MicrosoftResearch · hf · 2026-09-30
微软研究院发布 AI Night-Scientist 框架,针对 LLM 在开放式科学构想中输出同质化、可预测的问题,用强化学习教模型「何时以及如何」偏离可预测推理。
- 从认知科学出发,把创造力拆成三个轴:行动(做什么、多创新)、过程(何时探索 vs 何时利用)、结果(想法的原创性与有用性)。
- 用 GRPO 在这些轴上训练模型,让模型在训练中接触不同程度与形式的创造力。
- 结果:科学提案多样性提升,研究方向范围扩大 27.8%,贡献类型增加 14.9%;预测引用影响力最高提升 32.0 个百分点,原创性提升 66.2 点。
- 关键发现:这些收益无法靠单纯调高解码温度复现,真正起作用的是「指定追求哪种创造力」的语义引导。
结论是创造力是一种可学习、多层次的能力,可被塑造以帮助研究者触达 LLM 通常不会探索的想法。
「漫话AGI」频道最新
- Reddit 说「AI 是泡沫」,Twitter 在讨论「活不过 2027」:同个行业两种氛围 — Puzzleheaded-King584 · 2026-11-16
- Alpha School 被质疑用「劝退」筛选学生,Claude 当场被用来反问选择偏差 — benjaminjriley · 2026-11-16
- Netflix 拿下 Joseph Gordon-Levitt 执导的 AI 惊悚片,Rachel McAdams 加盟 — ShakeelHashim · 2026-11-16
- 卡内文学奖在 AI 代写质疑下确认 2026 年获奖者 — ShakeelHashim · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16
- 一张图拆解如何判断文化作品的质量:编码意义与范例性动作 — round · 2026-11-16