论文质疑当前AI Agent并不真正自主
i_dg23 · x · 2026-07-16
这篇论文把当前大多数“AI agent”区分为 agentic（看起来像在行动），而不是真正的 agentive（具备自主性）。
作者认为，Claude Code、Cursor、AutoGen 这类系统的“聪明”主要来自外围软件设计，而不是模型内部本身。论文逐项批评了五个缺口：
- Goal：任务目标每次都由人类重新给定，无法维持长期目标。
- Identity：system prompt 只是外部设定，不是真正的自我认知。
- Decision-Making：更长的思维链不等于更强的真实世界模拟。
- Self-Regulation：自适应推理、plan mode 等仍依赖人类在外部切换。
- Learning：部署后基本冻结，何时学习、练什么都由人类安排。
论文提出 GIC（Goal-Identity-Configurator） 架构，希望把这些能力更多放进模型内部。文中还用“紧急情况下为取 EpiPen 可以破例奔跑”的例子，说明作者想讨论的是更复杂的内在决策与规则权衡。
所属事件:ICML探讨从护栏走向原则化AI智能体(3 条相关)→
「研究」频道最新
- VidMap 用 RoMa 粗匹配全帧、精细匹配仅限关键帧 — ducha_aiki · 2026-09-11
- Bug Hunt Bench 作者补充:榜单噪声幅度约 2-3 分 — PawelHuryn · 2026-09-11
- 台球计算模型登 PNAS:二维系统已存在不可判定性,可跑通用计算机 — eigensteve · 2026-09-11
- 新研究:从仿射变换与重力线索求解绝对位姿 — ducha_aiki · 2026-09-11
- LoMa 论文发布 REALLY HardPairs 数据集,入选 ECCV 2026 — ducha_aiki · 2026-09-11
- JHU 开设全栈机器人学习课:组装机械臂、采数训练部署一条龙 — _krishna_murthy · 2026-09-11