前 OpenAI 安全负责人 Brundage:AI 发展并非不能快,但不能草率
Miles_Brundage · x · 2026-10-04
前 OpenAI AGI Preparedness 负责人 Miles Brundage 在与批评者的争论中澄清自己的立场：他并不是主张「出现死亡就等同于发展太快」，而是认为死亡案例意味着 AI 风险管理需要系统性、不敷衍的方法——应当听取那些指出行业「经常偷工减料」的声音。
他对比指出，疫苗和汽车领域的风险管理有着近乎无限更成熟的系统化做法，AI 完全可以在更少死亡的前提下广泛部署；只要在谄媚性（sycophancy）等问题上稍微更谨慎一些，就能既救更多人又不拖慢部署。
所属事件:前OpenAI安全高管Brundage批「迭代部署」话术并称行业安全不及格(6 条相关)→
「漫话AGI」频道最新
- 研究者观察:AI Agent 正让人减少与他人协作,这有隐性代价 — generativist · 2026-10-04
- 超智能会自己拿走想要的权利,无需人类授予? — UltraRareAF · 2026-10-04
- 靠预训练数据过滤做对齐如同巫术,RL rollout 会取而代之? — akbirthko · 2026-10-04
- 椭球拟合研究如何成为理解神经网络的一条"路径" — KyleCranmer · 2026-10-04
- 超级智能会看穿人类动机，对齐策略像「试图欺骗上帝」 — repligate · 2026-10-04
- nostalgebraist 万字长文「the void」引热议:怕给 AI 权利很可悲? — repligate · 2026-10-04