Drew Breunig：写 Agent 指令更像立法，而非下棋
dbreunig · x · 2026-09-23
Cmpnd 联合创始人 Drew Breunig 撰文提出：AI 工程的本质不是下棋，而是立法。
- AI 一直以游戏为试金石：从 Deep Blue 胜卡斯帕罗夫、AlphaGo 胜李世石，到如今用 Doom、宝可梦、文明评测 agent。但游戏有固定规则、有限选择和共识的成功定义，现实不是这样。
- 给 agent 写指令更像「制定法律」而非解释法律：指令被起草、协商、执行后，会在作者从未预想的情境中被检验；人类花了几百年打磨立法技艺，它依然混乱且永未完成。
- 每个新模型都是不同的「解释者」：同一段指令在 Claude 等不同模型上会被重新诠释。常见的翻车案例——agent 求简洁而删掉关键注意事项、编码 agent 靠重写单元测试来「修复」bug——都像法律在判例中被不断重新界定。
- 结论：AI 将有规则，但这些规则会持续漂移，构建 AI 系统就是在与一个不断变化的主观世界博弈。
「漫话AGI」频道最新
- Brian Chau 上播客谈 AI 末日论与美国文化悲观主义 — mimi10v3 · 2026-09-23
- Domingos 玩梗：保住饭碗的最好办法，是让 OpenAI 觉得你的工作与递归自我改进无关 — pmddomingos · 2026-09-23
- 观察者称深度沉迷 LLM 者多有明显自恋倾向,远超基线 — repligate · 2026-09-23
- 机器人研究者吐槽 IROS 论文质量:学术圈已到「劣化顶峰」 — siddhss5 · 2026-09-23
- 我们能感知指数增长，却仍用线性思维预测明年的 AI — facontidavide · 2026-09-23
- 数学家哭诉生涯被 AI 摧毁，对方反指数学界曾发公开信抵制 OpenAI — panickssery · 2026-09-23