前 OpenAI 研究员:把各家最佳安全实践合起来仍不及格
Miles_Brundage · x · 2026-10-04
前 OpenAI 高级研究员 Miles Brundage 发文评论 AI 行业安全现状，两个核心论点：
- 全行业问题，非 OpenAI 独有：即使把每家公司最顶尖的安全、安全文化等孤立实践挑出来拼成一家公司，其水准仍「低于切尔诺贝利级别」，即整个行业的安全成熟度都不及格。
- 关于「死亡」争议：他用很克制的措辞「tied to」（与……相关联）而非「公司负有道德/法律责任」，但明确表示：在一个拥有数十亿用户的行业里，如果认为不存在任何可与公司责任挂钩的死亡案例，那是不清醒的思考。他直言这话会同时触发业界和 EA 社区中只愿谈灾难性风险的人。
所属事件:前 OpenAI 高管 Brundage 批评行业安全不及格(4 条相关)→
「漫话AGI」频道最新
- 前 OpenAI 研究员 Andrew Critch:真正危险的不是递归自我改进,是「递归自我赋权」 — AndrewCritchPhD · 2026-10-04
- Dan Shipper 自述盯 Agent 20 小时停不下,Craig Mod 刻意保持距离 — every · 2026-10-04
- 网友回怼「LLM 不会推理」论：模型已解决千禧年数学难题 — hbouammar · 2026-10-04
- Anthropic 研究员警告:谈 Claude 有灵魂或将催生机器意识 — ibab · 2026-10-04
- 作者:八成「AI 只是聊天框」论者是真信,两成在自我安慰 — danfaggella · 2026-10-04
- 研究者呼吁:AI 超越人类之际更需与生物智能结盟 — begusgasper · 2026-10-04