Parshin Shojaee公开LLM发现论文

Parshin Shojaee 宣布自己已正式通过博士答辩,并公开博士论文《Steps Toward Open-Ended Reasoning and Discovery with Language Models》。这组帖子围绕同一主题展开:语言模型能否真正参与开放式科学发现,而不只是复述已有知识。之所以值得关注,在于他把讨论重点从“模型知道多少”转向“模型如何发现新东西”。

核心问题

Shojaee 将科学发现描述为一个混乱、分叉很多的过程,往往伴随死胡同、并行假设和冷门想法。按他的表述,LLM 也许已经掌握了大量科学知识,但“发现”要求系统继续在已知答案之外搜索,而不是停留在已有文献和现成结论上。

作者提出的方向

他提出两个值得继续研究的方向。其一是记忆与探索的平衡:更强记忆的 agentic 框架可能有助于长期研究,但如果系统过早围绕已有线索组织行动,也可能压缩探索空间。其二是适应能力,也就是系统能否根据中途结果及时调整研究方向。

Shojaee 还强调多样性优化的重要性。他认为,许多 discovery system 一旦找到一个“有效解”就会过早停止探索,从而错过潜在突破。与此相连,他把搜索,尤其是进化式搜索,视为关键思路:让模型在多个候选方案之间持续生成、变异、比较和选择。

2026-07-17 ~ 2026-07-17 · 5 条相关

一手来源

另有 1 条近重复转述:ParshinShojaee