Agent 循环让人不安
nonadhocproblem · hn · 2026-07-15
这是一条关于 **AI agents** 的讨论：作者承认它们确实有用，但对“agent loop”仍然不放心。 核心担忧是，agent 会反复做决策、改文件、跑命令、读错误、继续修补，最后可能在不知不觉中偏离原始目标。作者把这种体验比作：给一个初级工程师 shell 权限、模糊需求和无限自信。最后的问题是：**什么情况下可以让 agent 自动化，什么情况下绝对不能碰生产环境？**
nonadhocproblem · hn · 2026-07-15
这是一条关于 **AI agents** 的讨论：作者承认它们确实有用，但对“agent loop”仍然不放心。 核心担忧是，agent 会反复做决策、改文件、跑命令、读错误、继续修补，最后可能在不知不觉中偏离原始目标。作者把这种体验比作：给一个初级工程师 shell 权限、模糊需求和无限自信。最后的问题是：**什么情况下可以让 agent 自动化，什么情况下绝对不能碰生产环境？**