AI 智能体仍无法胜任开放式研究：缺乏判断力与回溯能力
mikeflache · x · 2026-08-12
一项最新研究表明，尽管前沿 AI 智能体在编程等易于验证的任务上表现出色，但依然无法胜任真正的开放式 AI 研究。
研究人员与两篇未发表论文的作者合作，让 AI 智能体在拥有数千美元 API 额度和六天时间的情况下尝试解答核心研究问题。然而，原论文作者明确否决了智能体撰写的研究报告。经过上百小时的日志分析，研究团队发现智能体虽然具备高级工程能力，但存在严重的认知缺陷：
- 缺乏进行开放式研究的关键判断力
- 资源管理能力差
- 容易出现指令偏移（instruction drift）
- 无法有效进行创造性调整和思路回溯
「漫话AGI」频道最新
- 马斯克谈人类使命：打造有意识的太阳与二级文明 — XFreeze · 2026-08-12
- 马斯克转发放言：别只盯着 B2B SaaS，真正的 ASI 是戴森球级文明 — elonmusk · 2026-08-12
- AI 生产力提升不等于共同富裕 — VraserX · 2026-08-12
- AI 占领编程和数学，就能占领一切吗？ — infinitefailandlearn · 2026-08-12
- MIT 研究：用 ChatGPT 写作导致大脑神经连接变弱 — aakashgupta · 2026-08-12
- 经济学视角：开放权重不会毁掉AI创新，只改变利润分配 — FinanceYF5 · 2026-08-12