乌鸦弯铁丝的启示：编码 agent 缺的是反馈回路而非参数

RandalSchwartz · reddit · 2026-11-05

作者借 2002 年牛津的乌鸦 Betty——无训练即把直铁丝弯成钩子取食——以及冷泉港实验室 Zador 的「基因组瓶颈」论（乌鸦基因组约 300MB，装不下弯铁丝技能），论证演化赋予了两种本能：飞蛾式的硬编码反射（对着人造光源自杀式盘旋）与乌鸦式的主动探测循环。作者认为当前多数 AI 编码系统在养「10 万亿参数的飞蛾」：堆参数却不给探测回路和痛觉反射。他们给编码 agent 加了一个 20KB 的 Unix Makefile 循环和负向痛觉标记后，涌现出了解决问题的能力。结论：加 prompt 规则让 agent 更脆弱，小型机械反馈回路才能修复幻觉。