Steve Yegge 警告：AI 违系统终将失控，债务超线性复利式累积
teropa · x · 2026-09-03
Steve Yegge 引发广泛共鸣的观察：任何模型再聪明，只要放任不管，最终都会构建出它自己也无法理解和维护的系统——他称 Fable 5 就“造出了超出自己理解力的东西”，让他折腾了一周，而 Fable 5.1 暂时修复了这个问题。
转发者 0xblacklight 梳理了推理链条：
- 很多人正确地认识到 LLM 在复杂甚至糟糕的代码库里比人类干得更好；
- 却错误地推断代码质量、复杂度和程序设计不再重要；
- 他们忽略的是 LLM 也能比人类更快地制造更多坏代码和更复杂的系统；
- 而（制造坏代码）的增速远大于（在坏代码库中工作）的改善速度——新一代模型在烂代码库里干活只渐进变好，却在长时间无人监督下产出极复杂程序的能力大幅跃升；
- 在大团队里，这种技术债会超线性复利累积。
结论：必须牢牢控制系统的规模，否则它会失控生长。
所属事件:Yegge 警告放任 AI 编程终将造出失控系统(3 条相关)→
「漫话AGI」频道最新
- AI 视觉复刻产品时代，付费软件的护城河只剩服务与信任 — sujingshen · 2026-10-18
- Anthropic 借鉴律师谈判伦理，Claude 智能体 69 人无人工批准成交 186 单 — rohanpaul_ai · 2026-10-18
- Tim Sweeney：AI 将催生此前因成本不可能被开发的游戏黄金时代 — TinfoilTricorn · 2026-10-18
- 研究者提出:人类可能先解决 AI 对齐,再解决人与人对齐 — 3scorciav · 2026-10-18
- EigenGender：私企政变非默认结局，但值得认真防范 — EigenGender · 2026-10-18
- 写作教师自学 LLM 数学后破防:LLM 就是强化版自动补全 — Decent-Decision-9028 · 2026-10-18