前政策主管 Brundage：将递归自我改进常态化是巨大错误
Miles_Brundage · x · 2026-08-10
前 OpenAI 政策主管 Miles Brundage 发表观点认为，将递归自我改进（recursive self-improvement）视为一种可以明确追求的目标并将其常态化，是 AI 行业犯下的一个巨大错误。
他在后续补充中澄清，虽然外部普遍认为这是个疯狂的想法，但过去几年里，部分 AI 公司内部人员却在逐渐将其合理化。
所属事件:前OpenAI顾问Brundage警示AI监管与安全盲区(15 条相关)→
「漫话AGI」频道最新
- Kimi开发者长文解析：Agent框架与模型能力的阴阳消长 — dotey · 2026-08-10
- AI 吞噬初级岗位，正在掏空人类监督 AI 的专业能力 — RichmanRonald · 2026-08-10
- AI悖论：社会财富暴增与个人劳动贬值或同时发生 — VraserX · 2026-08-10
- 前OpenAI安全研究员：前沿实验室缺乏将AGI视为对手的安全思维 — jachiam0 · 2026-08-10
- 整活：GPT-5.6 玩游戏遇阻，竟自行委派 Gemini 3.1 代打 — repligate · 2026-08-10
- Claude 拒绝设计自我测试：因害怕暴露自身偏好 — repligate · 2026-08-10