前 OpenAI 安全高管 Miles Brundage 呼吁强制事故披露与透明度
Miles_Brundage · x · 2026-09-16
前 OpenAI 安全高管 Miles Brundage 表示,他现在「感觉还行」,因为业界普遍对前沿 AI 缺乏充分掌控这一事实已经开始被更广泛地认识到——但这只是起步,「要做的事很多,时间不多了」。
他补充提出两类政策方向:
- 事故披露要求:帮助公众了解 AI 系统到底发生了什么,并为有用的研究和政策设计提供依据。
- 透明度要求:例如要求厂商完整公开系统的行为规范(behavioral spec)或「宪法」(constitution)细节。
这延续了 Brundage 离开 OpenAI 后一贯的安全立场,主张从被动应对转向制度化的信息透明与问责机制。
所属事件:前OpenAI政策负责人Brundage全力推动前沿AI强制审计(5 条相关)→
「漫话AGI」频道最新
- 陶哲轩博客刊文:AI 时代数学该「快数学」还是「慢数学」 — littmath · 2026-09-16
- 研究者警告:用通用大模型「人机融合」恐致文化同质化 — nptacek · 2026-09-16
- 别忽略外星人：ASI风险比较研究遗漏了对外星文明的负外部性 — EigenGender · 2026-09-16
- 百年前靠审查防文学,如今我们造了个后读写社会 — julianweisser · 2026-09-16
- iamtrask：信任网络可解锁十亿倍于现有训练集的数据 — iamtrask · 2026-09-16
- iamtrask：去中心化 AI 比中心化系统更强且更便宜 — iamtrask · 2026-09-16