AI 智能体搞科研被全盘否定：开放式研究自动化仍遥不可及
sudoraohacker · x · 2026-08-01
针对「递归自我改进 (RSI)」等 AI 自动化科研的乐观设想，多位研究者基于最新论文和「影子评估」实验提出了严厉反驳。
核心实验与结论：
- 研究者让 AI 智能体在 6 天内消耗数千美元 API 额度，去复现两篇未发表论文的研究。最终原论文作者明确拒绝了 AI 生成的所有结果。
- 智能体虽然能熟练完成工程类任务，但在需要高级判断力和隐性知识的开放式研究中表现糟糕。
前沿研究为何难以自动化：
- 极高的迭代复杂性： 顶会论文的产出需要经历构思、设计、执行、写作和审稿的无数次迭代，远非普通的白领劳动可比。
- 不可预测的失败模式： 将这些过程交给 AI 会引发数十种无法预测的错误。人类专家能凭借直觉和经验不断优化工作，而 AI 在迭代中引入新错误的风险与解决旧问题的概率一样高。
- 低估了科研难度： 许多随意猜测科研能被自动化的人，严重低估了前沿科学探索的真实门槛。
所属事件:影子评估实测：AI智能体开放式科研遭原作者全盘否决(12 条相关)→
「编程与Agent」频道最新
- 安全工程师自建 SSH MCP 层:让 Claude Code 碰服务器但不碰密钥 — NETMESAFE · 2026-10-16
- 「2026 年还拒绝用 AI 写代码，就像 2005 年拒绝用 Google」 — prasenx · 2026-10-16
- Claude Code 新增 idle compaction：闲置会话自动压缩保住缓存 — EricBuess · 2026-10-16
- Agent 长任务中途崩溃怎么办:难的是网络另一侧的不确定结果 — Responsible-Dare5139 · 2026-10-16
- OpenAI DevDay 社区黑客松落地柏林,设开发者/创始人/GTM 三赛道 — paw_lean · 2026-10-16
- 数据科学家转岗警报:会机器学习不够,AI 工程技能成新门槛 — mdancho84 · 2026-10-16