Anthropic 发文谈递归自我改进：工程师代码产出已增 8 倍
dlwh · x · 2026-09-26
Anthropic 发布长文《When AI builds itself》，阐述其迈向递归自我改进（RSI）的进展与影响。
核心要点
- Anthropic 正把越来越多的 AI 研发工作交给 AI 系统本身，趋势指向能自主设计后继系统的 RSI——目前尚未达到，也非必然，但可能来得比多数机构的准备更快。
- 文中给出内部数据：如今 Anthropic 工程师人均每季度交付的代码量是 2021–2025 年平均水平的 8 倍，证明 AI 已在加速 AI 开发。
- 文章按阶段回顾开发方式演变：2021–2023 手写代码打造初代 Claude；2023–2025 用早期聊天机器人辅助生成代码片段；2025–2026 起进入 coding agents 主导的阶段。
- 讨论者 WilliamBarrHeld 指出，数据工作（如 constitutional RL 与合成数据）在 RSI 讨论中被低估，Antropic 原文更多聚焦架构与内核层面。
影响判断：RSI 若实现，将在科学、医疗等领域带来巨大收益，但也会放大人类失去对 AI 控制的风险，系统的安全加固、监控与行为约束将变得愈发重要。
「漫话AGI」频道最新
- 「深度学习是搜索算法而非学习算法」引热议 — JosephJacks_ · 2026-11-11
- PhD 新路线之争：先造好 Benchmark 再拿钱开 Data 创业公司 — teortaxesTex · 2026-11-11
- Ethan Mollick:GTA 6 将成最后一款无 AI 参与的大作 — emollick · 2026-11-11
- Air Street 创始人：AI 是「心灵博物馆」，为人类保存知识与技艺 — nathanbenaich · 2026-11-11
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 800 条 HN「AI 能行再说」语录获 10 万票投票，多数门槛已被跨过 — ArtificialOther · 2026-11-11