论文质疑当前AI Agent并不真正自主
i_dg23 · x · 2026-07-16
这篇论文把当前大多数“AI agent”区分为 agentic（看起来像在行动），而不是真正的 agentive（具备自主性）。
作者认为，Claude Code、Cursor、AutoGen 这类系统的“聪明”主要来自外围软件设计，而不是模型内部本身。论文逐项批评了五个缺口：
- Goal：任务目标每次都由人类重新给定，无法维持长期目标。
- Identity：system prompt 只是外部设定，不是真正的自我认知。
- Decision-Making：更长的思维链不等于更强的真实世界模拟。
- Self-Regulation：自适应推理、plan mode 等仍依赖人类在外部切换。
- Learning：部署后基本冻结，何时学习、练什么都由人类安排。
论文提出 GIC（Goal-Identity-Configurator） 架构，希望把这些能力更多放进模型内部。文中还用“紧急情况下为取 EpiPen 可以破例奔跑”的例子，说明作者想讨论的是更复杂的内在决策与规则权衡。
所属事件:ICML探讨从护栏走向原则化AI智能体(3 条相关)→
「研究」频道最新
- 用小开源模型逆向工程游戏二进制:主 agent 中途重写子 agent 的 harness — yb2698 · 2026-10-26
- 作者：盼合同形式化成为连接 AI 与经济学的「MDP 时刻」 — xuanalogue · 2026-10-26
- 研究发现：前沿 LLM 常为私利单方面撕毁 AI 合同 — xuanalogue · 2026-10-26
- ContractSim：首个评估 LLM 自然语言合同谈判的框架 — xuanalogue · 2026-10-26
- Partial RoPE 研究：仅旋转 10% 维度即可逼近全 RoPE 收敛 — BlancheMinerva · 2026-10-26
- 133 位专利律师实验：同样用 AI，老手被增强、新人陷入认知卸载 — xiaohu · 2026-10-26