前 OpenAI 安全高管：没有哪家前沿公司有安全自我改进的像样计划
Miles_Brundage · x · 2026-10-10
前 OpenAI 政策副总裁 Miles Brundage 罕见点名批评所有前沿 AI 公司：没有任何一家对「安全的递归自我改进」有哪怕一个概念性的计划。
他打比方说，宣称要做「递归自我改进（之后再弄清人类扮演什么角色）」和特斯拉的「完全自动驾驶（需监督）」一样：措辞足够模糊、关键词足够讨巧，能安抚部分批评者，但对实际目标的描述具有误导性。
这是行业重量级人物对自我改进叙事与安全实践脱节的直接批评。
所属事件:前OpenAI安全高管批前沿AI公司缺乏安全自我改进计划(3 条相关)→
「漫话AGI」频道最新
- Cosmos 创始人：给监管者「踩刹车」的权力几乎不受限 — luke_drago_ · 2026-10-10
- 马斯克放话:AI 冲击下呼叫中心岗位将迅速消失 — elonmusk · 2026-10-10
- 把 LLM 当"电脑里的小怪人"而非软件,用起来更顺手 — dioscuri · 2026-10-10
- 讽刺：宣称淘汰某些岗位的行业，如今却招不到这些人 — pixlpa · 2026-10-10
- Patrick Collison 长文：个人 AI Agent 将改写公司与消费者的博弈 — scottleibrand · 2026-10-10
- iamtrask：唯一护城河是稀缺数据，数学数据不算数 — iamtrask · 2026-10-10