自改进Agent的关键是验证闭环
fatih_koc · reddit · 2026-07-13
作者做了一个不是只会“完成任务”，而是能**自我改进流水线**的 agent 系统：它会持续观察结果、决定下一步动作、对产品和自身代码开 PR，并通过一个 ledger 把每次变更标记为 confirmed / rejected / inconclusive，最后只保留人类的 merge gate。 他强调，真正让系统跑起来的关键不是堆复杂度，而是控制每次运行的上下文规模，把不需要判断的部分交给确定性代码，避免巨型工具链和长 skill 文件。最重要的是 verify 步骤：如果每次变更都不能被明确判定，系统就会不断累积无法解释的修改，自我改进也会失真。 他最后抛出的问题是：做自主 agent 时，大家到底怎么把“验证”这一步闭环，才能让系统真的学习，而不是只是在行动。