nostalgebraist：AI agent 像聪明但天真的研一新生，仍不停犯低级错误
JacquesThibs · x · 2026-10-27
知名 AI 博主 nostalgebraist 指出，如今的 LLM agent 在很多方面非常聪明，却始终在犯相当基础、愚蠢的错误。年初时编码 agent 还没什么用，现在因为速度快、知道冷门知识而「总体有用」，但低级失误并未减少——像聪明但天真的研一新生：书呆气、勤奋，却缺乏品味、判断力和优先级意识，稍不盯着就一本正经地跑偏到低价值方向。
- 他质疑 agent 越来越被训练为长时程自主运行，但实际上不具备完成复杂任务所需的判断力；而与真研究生不同，它们无法随时间积累知识和实践诀窍，导师-学生的工作框架也套不上。
- 若始终把 agent 拴紧、每步都在环内把关虽然有效，又与「自主化训练方向」相悖，协作流程该长什么样越来越不清楚。
- 他举例：某前沿模型会无理由地限制 API 并发使吞吐降 8 倍、期待 T=1.0 且无随机种子的 LLM 推理输出一致等。
- JacquesThibs 对此表示同意。
「漫话AGI」频道最新
- 用单一上下文跑通 Fable 5.1 数学证明，预言哪些猜想将倒下 — repligate · 2026-10-27
- 学者呼吁「发育转向」：理解母体细胞如何塑造人工心智 — AnnaCiaunica · 2026-10-27
- eLife 论文:LLM 难以复现词序对人脑句义表征的塑造 — AnnaCiaunica · 2026-10-27
- AI 解题可信度存疑：Lean 形式化证明与文本证明不匹配 — srchvrs · 2026-10-27
- 指数时间猜想与推理复杂度：3-SAT 难解性对 AI 推理意味着什么 — srchvrs · 2026-10-27
- DeepMind 创始人 Shane Legg:AGI 距今不到十年 — soumitrashukla9 · 2026-10-27