kuza55 与 Jules Jacobs 激辩 AI 进步能否靠堆叠 S 曲线延续

kuza55 与 Jules Jacobs 在 8 月 29 日的讨论中，就 AI 发展的可持续性交换了观点。核心共识是当前方法还会奏效一段时间，但争议在于 S 曲线能否不断堆叠以维持长期进步，目前没有定论，因此这一讨论值得关注。

已确认

• kuza55 认为软件工程问题显然会被解决，且当前进展很快；但在软件/计算机使用/数学之外的领域，发展轨迹可能较弱
• 谈及 AI 当前 S 曲线的终点高度时，Jules Jacobs 问是否高于「做一个比 GCC/LLVM 更好的 C 编译器」，kuza55 回答肯定更高，并表示「我们快到了」
• Jules Jacobs 主张不必把一切都变成 RL 环境，只需把 AI 开发本身变成 RL 环境即可
• kuza55 提出两个潜在瓶颈：算力资金耗尽和数据耗尽
• 讨论延伸到机器人：Jules Jacobs 追问若当前路径成立，能否建一座自主训练机器人等可 RL 任务模型的自动化 AI 工厂；kuza55 认为走出 RL 环境盒子之外轨迹明显更弱，机器人可能需要 sim2real 或 RL 效率方面的突破

尚未确认

• 双方都承认不确定能持续堆叠 S 曲线多久；Jules Jacobs 认为 AI 做出比 GCC/LLVM 更好的编译器是未曾实现的事

为什么重要

• 这场讨论把「AI 能否持续进步」具体化为可检验的问题：软件工程能否被解决、能否造出超越 GCC/LLVM 的编译器，为观察后续进展提供了标尺
• 「把 AI 开发本身作为 RL 环境」的思路，是绕开数据与算力瓶颈的一个潜在方向
• 机器人训练困在 LLM 的 S 曲线内的判断，指出了当前范式在物理世界任务上的边界与可能所需的突破方向

2026-08-29 ~ 2026-08-29 · 8 条相关

• 【源头】Jules Jacobs：不必万物皆 RL 环境，AI 开发本身就是环境 — JulesJacobs5 · 2026-08-29
• 【源头】S 曲线视角：AI 发展能否持续堆叠新范式 — kuza55 · 2026-08-29
• 【源头】AI 发展存在 S 曲线，Scaling 能持续多久？ — JulesJacobs5 · 2026-08-29
• AI 编程 S 曲线高度：超越 GCC/LLVM？ — kuza55 · 2026-08-29
• 软件工程将解体，但 AI 难以突破软硬边界 — kuza55 · 2026-08-29
• 追问：软件若被解决，自动化 AI 工厂能否自主训练机器人模型 — JulesJacobs5 · 2026-08-29
• 机器人训练困在 LLM 的 S 曲线内？需 sim2real 或 RL 效率突破 — kuza55 · 2026-08-29
• 机器人突破需 Sim2Real 或 RL 效率提升 — kuza55 · 2026-08-29