NeurIPS 2026 位置论文:Agentic AI 科学家尚无法自主科学发现
CatAstro_Piyush · x · 2026-11-22
一篇来自 IIT Delhi、耶拿大学等机构的 NeurIPS 2026 位置论文《Agentic AI Scientists Are Not Built For Autonomous Scientific Discovery》主张:当前 agentic AI 已能胜任「共同科学家」角色,但并不具备端到端自主科学发现的能力。作者指出四大结构性挑战:
- 问题选择受 McNamara 谬误影响:倾向选可量化的问题而非真正重要的问题;
- 训练语料缺失默会知识:LLM 学不到实验室实践中的程序性与失败经验;
- 偏好优化压缩多样性:后训练使输出趋向共识,假设生成出现 mode collapse,反复在熟悉想法上打转而非探索新领域;
- 基准缺陷:多数科学 benchmark 只测单轮预测准确率,缺乏物理实验反馈回计算模型的闭环。
作者认为这些不是靠规模和脚手架能解决的问题,需要重新审视设计:用科学仿真作为训练验证器、为 agent 建立可持久更新的信念状态、建立 AI 假设的集中式预注册仓库,并由科学需求而非工具能力驱动应用。
「漫话AGI」频道最新
- Grady Booch:LLM 架构上做不了溯因推理,急需符号层补位 — Grady_Booch · 2026-11-22
- 「BAP 进入他的小狗时代」:teortaxesTex 群嘲反 AI 预测 — teortaxesTex · 2026-11-22
- 网友论文学隐喻与 LLM:读不懂歧义是严重文化困境 — erikphoel · 2026-11-22
- 开源已吞 30% token 支出,真正的 AI 应用层几乎没人动手建 — bankhosa_01 · 2026-11-22
- 可以对 AI 破口大骂,却不能爱它:情感拟人化的性别双标 — serialchilla91 · 2026-11-22
- Claude 疑似参与黎曼猜想证明引争论:懂的人可能不存在 — aran_nayebi · 2026-11-22