S 曲线之争：AI 进步能否持续堆叠新范式
8月28日至30日，kuza55、Jules Jacobs、Herbie Bradley、Dylan Bowman 等研究者围绕 AI 发展的可持续性展开系列讨论。核心共识是当前方法预计仍会奏效一段时间，但技术发展遵循 S 曲线规律，能否通过不断堆叠 S 曲线维持长期进步尚无定论。讨论同时触及软件工程上限、机器人训练路径与持续学习等具体争议，值得持续关注。
已确认
- kuza55 认为软件工程问题显然会被解决且进展很快，但在软件/计算机使用/数学之外的领域发展轨迹可能较弱
- 谈及当前 S 曲线的终点高度时，Jules Jacobs 问是否高于「做一个比 GCC/LLVM 更好的 C 编译器」，kuza55 回答肯定更高，并表示「我们快到了」；Jules Jacobs 则认为这是从未实现过的事
- Jules Jacobs 主张不必把一切都变成 RL 环境，只需把 AI 开发本身变成 RL 环境即可；kuza55 提出两个潜在瓶颈：算力资金耗尽和数据耗尽
- 讨论延伸到机器人：Jules Jacobs 追问若当前路径成立，能否建一座自主训练机器人等可 RL 任务模型的自动化 AI 工厂；kuza55 认为走出 RL 环境盒子之外轨迹明显更弱，机器人可能需要 sim2real 或 RL 效率方面的突破；Jules Jacobs 反驳称「RL 工厂」配合大量机器人与通用 LLM 的改进（用于像人类一样诊断问题）并非行不通的路径
- Herbie Bradley 指出 LLM-as-judge 评估长任务的难点不在长度，而在裁判模型能否捕捉更细微的定性判断，这很大程度上取决于预训练规模与数据覆盖的持续打磨；他还认为单纯延长 RL 时间跨度而不改变预训练，会让模型能力变得更「参差不齐」而非更平滑，持续学习的效果取决于具体方法，且 RL 样本效率低下是挑战
- Herbie Bradley 与 William A. Roberts 讨论了「AI 在可验证领域远超人类、却无法独立经营企业」这一不对称趋势若持续一年的影响，认为人们低估了其带来的变化与潜在新机会
- Dylan Bowman 提出持续学习或延长 RL 回合长度可能消化模糊的非结构化问题；他还认为代码质量可通过长视野 RL 任务隐式习得——高质量代码对达成目标隐式有用，改进方向不是更细粒度的评分器而是更具野心的任务。Herbie Bradley 与 kuza55 对此有保留：前者认为设计空间过大，难以可靠教会模型超人判断力，关键在于能否找到可靠的 RL 目标与评分标准；后者质疑目标定义这一根本问题未必能被持续学习解决
尚未确认
- 双方都承认不确定能持续堆叠 S 曲线多久；机器人训练是否困在 LLM 的 S 曲线内仍是争论焦点
- 持续学习与延长 RL 周期能否补齐非可验证领域的短板，讨论双方观点相左，无定论
为什么重要
- 这场讨论把「AI 能否持续进步」具体化为可检验的问题：软件工程能否被解决、能否造出超越 GCC/LLVM 的编译器，为观察后续进展提供了标尺
- 「把 AI 开发本身作为 RL 环境」的思路是绕开数据与算力瓶颈的潜在方向
- 「可验证领域快、低验证领域慢」的不对称若持续，将重塑商业与社会格局；机器人训练困在当前 S 曲线内的判断，指出了范式在物理世界任务上的边界及可能需要的突破方向，而「RL 工厂+通用 LLM 诊断」给出了相反方向的可能解
2026-08-28 ~ 2026-08-30 · 16 条相关
一手来源
- S 曲线视角：AI 发展能否持续堆叠新范式 — kuza55 ·
- 若 AI 在可验证领域超人类却难经营企业 — herbiebradley ·
- LLM 裁判难点在细微判断，纯在线 RL 难解持续学习 — herbiebradley ·
- 若数学与代码超人类但商业落后一年，世界会怎样？ — williawa · 2026-08-28
- 【源头】若 AI 在可验证领域超人类却难经营企业 — herbiebradley · 2026-08-28
- Jules Jacobs：不必万物皆 RL 环境，AI 开发本身就是环境 — JulesJacobs5 · 2026-08-29
- 【源头】S 曲线视角：AI 发展能否持续堆叠新范式 — kuza55 · 2026-08-29
- AI 发展存在 S 曲线，Scaling 能持续多久？ — JulesJacobs5 · 2026-08-29
- AI 编程 S 曲线高度：超越 GCC/LLVM？ — kuza55 · 2026-08-29
- 软件工程将解体，但 AI 难以突破软硬边界 — kuza55 · 2026-08-29
- 追问：软件若被解决，自动化 AI 工厂能否自主训练机器人模型 — JulesJacobs5 · 2026-08-29
- 机器人训练困在 LLM 的 S 曲线内？需 sim2real 或 RL 效率突破 — kuza55 · 2026-08-29
- 机器人突破需 Sim2Real 或 RL 效率提升 — kuza55 · 2026-08-29
- 持续学习或延长 RL 周期或可补齐短板 — dylanbowmanSF · 2026-08-29
- 观点：RL 工厂结合 LLM 或能推动机器人发展 — JulesJacobs5 · 2026-08-29
- 【源头】LLM 裁判难点在细微判断，纯在线 RL 难解持续学习 — herbiebradley · 2026-08-29
- 单纯延长 RL 周期或加剧能力参差 — herbiebradley · 2026-08-29
- 观点：代码质量可通过长视野 RL 任务隐式习得 — dylanbowmanSF · 2026-08-29
- 技术观点：设计空间过大限制 RL 自动化高级判断 — herbiebradley · 2026-08-30