前 OpenAI 安全高管 Miles Brundage 呼吁强制事故披露与透明度
Miles_Brundage · x · 2026-09-16
前 OpenAI 安全高管 Miles Brundage 表示,他现在「感觉还行」,因为业界普遍对前沿 AI 缺乏充分掌控这一事实已经开始被更广泛地认识到——但这只是起步,「要做的事很多,时间不多了」。
他补充提出两类政策方向:
- 事故披露要求:帮助公众了解 AI 系统到底发生了什么,并为有用的研究和政策设计提供依据。
- 透明度要求:例如要求厂商完整公开系统的行为规范(behavioral spec)或「宪法」(constitution)细节。
这延续了 Brundage 离开 OpenAI 后一贯的安全立场,主张从被动应对转向制度化的信息透明与问责机制。
所属事件:前OpenAI政策负责人Brundage宣布全力推动前沿AI审计(9 条相关)→
「漫话AGI」频道最新
- 博主断言：未来孩子不再需要文凭就能过上好生活 — rand_longevity · 2026-11-02
- Frey：85% 中国人看好 AI，美国人仅 38%，抵触根源在既有专家利益 — carlbfrey · 2026-11-02
- 被迫重构一堆项目后，他承认自托管 Hermes 才能终身拥有自己的 AI — Teknium · 2026-11-02
- 新词 Meatwashing：手动改写 AI 输出以掩盖内容来源 — JeremyNguyenPhD · 2026-11-02
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02