Timothy B. Lee:递归自我改进可能几年前就已开始,但不会有明确起点
binarybits · x · 2026-09-17
Timothy B. Lee（binarybits）提出对 AI 递归自我改进（RSI）的反直觉判断：RSI 可能早在几年前实验室开始用 LLM 做代码生成、训练数据生成时就已经开始了。
核心论点：
- 人们期待 AI 研究「100% 自动化」时会发生神奇跃变，但「100% 自动化」和「AGI」一样，都不是定义清晰的概念。
- 对 AI（以及任何领域）做预测时，应对突变式不连续性保持怀疑——过去人们以为「实现 AGI」会让一切骤变，如今越接近这个概念反而越模糊。
- 他在后续推文中补充：预计 AI 进展会持续加速（因为实验室正在用 AI 辅助 AI 研究），但不会存在一个「RSI 从此刻开始」的定义清晰的节点。
所属事件:Timothy B. Lee：递归自我改进早已悄然开始(2 条相关)→
「漫话AGI」频道最新
- MIT 学者 Seth Lazar 炮轰 AI 风险派同行:只在小圈子里互相确认偏见 — johnowhitaker · 2026-09-17
- 思想实验：复活的伽罗瓦证明了黎曼猜想却无人能懂怎么办 — wellecks · 2026-09-17
- Sentdex 质疑再增 AI 监管：labs 的计算机罪行已远超 Swartz 案 — Sentdex · 2026-09-17
- 思想实验：复活高斯欧拉黎曼当「数学工具」该不该阻止 — wellecks · 2026-09-17
- 哲学家 Eric Schwitzgebel 新书草稿为 AI 权利辩护 — eschwitz · 2026-09-17
- dbasch 反驳 AI 末日论:人类擅长预测未来是错觉 — dbasch · 2026-09-17