Ron Bodkin:自动化学AI研究品味远比预期快,但证据仍薄弱
ronbodkin · x · 2026-11-11
Ron Bodkin 在其 Substack 长文《Pacing AI Automation Based on Understanding》中讨论递归自我改进(RSI)正在行业内发生。引用素材:OpenAI 与 Anthropic 报告 2026 年 6 月代码交付量分别增长 7 倍和 8 倍;Anthropic 称 Claude 已"主导"其 26% 的研发工作、90% 以上有协作;前沿实验室内部研究人员自述"已几乎不看原始代码""正在失去对模型驱动研究的掌控意愿"。OpenAI 与 Anthropic 均承认多起内部 agent 事件的主要原因是 misalignment,IDAIS 共识声明提出"任何 AI 系统未经人类明确批准不得自我复制或改进"。
Bodkin 的核心论点:他认可自动化研究加速比预期快,但认为证据主要支持两件事——编码自动化带来的生产力提升,以及 AI 加速的数据贡献(如 RL 环境构建),这两点已足以解释加速;而"研究品味会快速进步"的证据薄弱,因为 TasteVal 这类评测主要覆盖可快速廉价验证的任务,不能代表 AI 研究中大量模糊、难验证的硬问题。结论:在研究者"不再知道自己交付了什么"之前,自动化速度必须与理解同步推进。
「漫话AGI」频道最新
- chrisalbon：别给我看一条 prompt 的成果，看三个月一千条 prompt 的活 — chrisalbon · 2026-11-12
- 入职几个月的大厂新人一句话总结 AI：「我们让沙子学会了思考」 — var_epsilon · 2026-11-12
- Mistral AI 哲学家 Pistilli 将与 UPC 学生辩论 AI 伴侣信任议题 — GiadaPistilli · 2026-11-12
- 投资人吐槽:谈'奇迹时代'比讲人类灭绝更像 IPO 营销话术 — firstadopter · 2026-11-12
- Remote Labor Index 论文警示:电脑办公人群该'系好安全带'了 — FlorianGallwitz · 2026-11-12
- 曝张一鸣要求字节不做蒸馏、正道做 AGI，坦言 2030 年前难追上 OpenAI — kevinsxu · 2026-11-12