好奇心、反驳与休息:人类程序员三种能力 agent 学不会
DavidKPiano · x · 2026-09-10
React 专家 David Khourshid(DavidKPiano)长文论述:人与开发 agent 的差距不在能力,而在三件看似弱点、实为特性的东西。
- 好奇心:人会无聊、会痴迷,会去造没人要求的东西(比如他做状态机工具),很多伟大工具源于此。Agent 只能在别人写的 prompt 范围内探索,让它们"自己想点子"不算真有自发的想法。
- 反驳:人因为踩过坑、要长期维护代码,才有资格问"这真的需要吗"。Agent 的反驳只是服从指令的表演,没有任何利害关系。
- 休息:每次改动都扩大爆炸半径,停下来检查是特性不是懒惰。Agent 的通宵循环看似高产,实际是在更快累积技术债——测试只能覆盖你想测的,压缩不了出错的状态空间。人会"感觉累"从而判断力下降,agent 感觉不到,只会带着更差的判断自信推进。
他认为这三者本质是同一个问题:什么值得做?值不值得做?何时再多做反而不值?Agent 擅长"做",但对"值得"没有发言权——因为 worth 只对要承受结果的人有意义。这不是下个模型更新或某个 harness 能修复的,是缺少一个要为自己错误买单的持存"自我"。
「漫话AGI」频道最新
- 前 Anthropic 研究员离职怒斥失控竞赛,引发 AI 末日论激辩 — benfielding · 2026-09-11
- Rob LeClanc:核与生物风险可单独立规,更强 AI 反而利于建护栏 — robleclerc · 2026-09-11
- 「多数领域其实很浅」?Greenblatt 与 Timothy Lee 激辩超智能世界观 — sebkrier · 2026-09-11
- Greenblatt 警惕 neuralese 架构:AI 或改用不透明激活思考 — RyanGreenblatt · 2026-09-11
- 电工比客服更难被 AI 替代?RL 可表示性决定职业命运 — ns123abc · 2026-09-11
- 挂 100 万美元对赌:AI 导致人类灭绝?2030 年见分晓 — robleclerc · 2026-09-11