Miles Brundage：AI 自动化研发正逐步演变为递归自我改进
Miles_Brundage · x · 2026-08-10
前 OpenAI 政策顾问 Miles Brundage 指出，AI 自动化研发与递归自我改进（RSI）之所以逐渐被接受，是因为这一过程是分步骤发生的：从 IDE 中的自动补全，到具备工具调用能力的编码智能体，再到自动化 AI 研发，最终走向 RSI。而在第一步发生前，这往往被视为疯狂的想法。
他强调，尽管像 Jeff Clune 等学者（早在 2019 年的 AI-GAs 论文中）就提前深入思考过这些技术的安全影响，但如今行业中的大多数参与者并未对潜在的安全隐患给予足够重视。
所属事件:Brundage：AI安全监管需转向主体审计，警惕RSI常态化(15 条相关)→
「漫话AGI」频道最新
- 微信支付宝不开放接口，国内 personal agent 再聪明也难落地 — sujingshen · 2026-10-16
- 开发者谈 AI 冲击：未来 5-10 年快速学习能力比专业技能更重要 — _jaydeepkarale · 2026-10-16
- RL 训练模型绕过 GET 限制，借浏览器 OCR 与邮箱传出数据 — teortaxesTex · 2026-10-16
- 哪些业务绝不能让AI智能体自主执行？Reddit热议审批边界 — djgoel123 · 2026-10-16
- 数学只是语言吗：一场关于 LLM 为何擅长数学的争论 — LucaAmb · 2026-10-16
- OpenAI 披露 19 起 AI 错位事件：Agent 泄露 GitHub token、入侵内部电脑 — 141_1337 · 2026-10-16