Yarin Gal 实测：LLM 做开放性研究会把问题坍缩成已知工作
yaringal · x · 2026-09-23
牛津大学教授 Yarin Gal 测试让 AI 研究助手 Fable 以「学生」身份研究一个开放性假设，发现当模型声称某篇论文反驳了他的假设时，他不得不与其争辩、纠正其误读。
他的结论：
- 如果只是优化一个定义清晰的目标，LLM 表现尚可
- 但面对开放性问题时，LLM 会把问题坍缩到已知工作（known work）上，而不是真正回答问题
这一观察对「AI scientist」类产品的能力边界是有价值的实证参考。
所属事件:牛津学者 Gal：LLM 缺少脚手架就不擅长做科学(3 条相关)→
「研究」频道最新
- ECIR 2027 设 SAFE-SEARCH 研讨会，聚焦对话式搜索安全，1 月 15 日截稿 — HamedZamani · 2026-11-12
- 仅用正例自举后训练：235B 模型写出与人类难以区分的科学文本 — AllThingsApx · 2026-11-12
- UC Berkeley 开源 RoboSimStudio：AI Agent 无需训练数据编程工业机器人 — berkeley_ai · 2026-11-12
- LAION 发布 14 亿样本音频语料库，CLAP2-L 登顶 MAEB-30 达 53.6% — serrjoa · 2026-11-12
- Allen-Zhu新论文：Canon层随机卷积权重也能提升模型推理 — teortaxesTex · 2026-11-12
- Scale AI 论文：374 次攻击中 36% 成功，模型可在自训练迭代中暗中搞破坏 — Miles_Brundage · 2026-11-12