前 OpenAI 研究员:把各家最佳安全实践合起来仍不及格
Miles_Brundage · x · 2026-10-04
前 OpenAI 高级研究员 Miles Brundage 发文评论 AI 行业安全现状,两个核心论点:
- 全行业问题,非 OpenAI 独有:即使把每家公司最顶尖的安全、安全文化等孤立实践挑出来拼成一家公司,其水准仍「低于切尔诺贝利级别」,即整个行业的安全成熟度都不及格。
- 关于「死亡」争议:他用很克制的措辞「tied to」(与……相关联)而非「公司负有道德/法律责任」,但明确表示:在一个拥有数十亿用户的行业里,如果认为不存在任何可与公司责任挂钩的死亡案例,那是不清醒的思考。他直言这话会同时触发业界和 EA 社区中只愿谈灾难性风险的人。
所属事件:前OpenAI高管Brundage反思迭代部署:带缺陷上线非学习而是加速发货(7 条相关)→
「漫话AGI」频道最新
- OpenAI 与圣母大学法学院合办 AI 伦理对话,12 月 4 日举行 — wjscheirer · 2026-11-19
- NYT 深度报道:Anthropic IPO 前内部组织裂痕扩大 — kylekabasares · 2026-11-19
- 顶级实验室的最大优势不是钱,而是帮你省下数年试错时间 — madeofAjala · 2026-11-19
- Anthropic 前员工用「魔戒」比喻公司心态:关键是谁握住戒指 — JeffLadish · 2026-11-19
- 为 AI 实验室员工建签证庇护非营利组织的呼吁 — AaronBergman18 · 2026-11-19
- 「创新从不来自财务部门」:李衡忠驳开源微调 ROI 论 — HanchungLee · 2026-11-19