研究称 AI 智能体尚无法胜任开放式科研
sebkrier · x · 2026-08-09
一项最新研究表明，尽管 AI 智能体在处理结果易于验证的狭窄任务上取得进展，但距离实现递归自我改进（RSI）仍有差距。
研究人员与两篇未发表的 AI 论文作者合作，让前沿 AI 智能体在拥有数千美元 API 额度和 6 天时间的情况下尝试解答核心研究问题。结果显示，原作者明确拒绝了智能体生成的两篇论文。
团队分析日志后发现，智能体缺乏进行开放式研究的判断力。虽然它们偶尔能提出令专家惊艳的研究方向，但往往会基于低置信度迅速否定这些思路。
「漫话AGI」频道最新
- ETH Zurich 提出 LFD：用冻结 LLM 当老师，自然语言驱动药物设计生成器 — rohanpaul_ai · 2026-10-16
- Chamath 称 AI 公司 70-80% 收入来自其他 AI 公司，Zitron 附文质疑 — SumitGup · 2026-10-16
- 用购物 Agent 两个月，二手消费从 $365 涨到 $820 — davidyin44 · 2026-10-16
- 「前沿 AI 研究没有正规路径」：19 岁少年在车库里推进技术引发争论 — repligate · 2026-10-16
- 被问「你会终结人类吗」，AI 的正经回应被网友配上小丑梗图 — dermflork · 2026-10-16
- 斯坦福教授：AI 代写作业全拿高分，期末现场考试集体露馅 — FinanceYF5 · 2026-10-16