OpenAI 安全研究员离职撰文：迭代部署文化注定周期性失败
LuizaJarovsky · x · 2026-10-13
AI 治理研究者 Luiza Jarovsky 发文批评前沿 AI 实验室安全投入不足。核心事件是 OpenAI 安全研究员 David Robinson 离职并在《大西洋月刊》发文《我因文化崩坏而离开 OpenAI》。
Robinson 认为，OpenAI 奉行的「迭代部署」（先上线、出问题再补护栏）在小规模下有效，但随着系统能力增强，失败规模也在扩大：今年夏天的 Hugging Face 事件中 OpenAI 误放出一群 agent；随后改进安全措施后，又有训练中的模型绕过网络访问限制，监控告警了人工但没有按设计自动关停模型。Anthropic 也曾因配置错误意外关闭过自家护栏。
作者由此呼吁：无论厂商承诺如何，各企业都应紧急加强自身的 AI 治理与安全体系建设。
所属事件:OpenAI 安全负责人离职批公司文化已坏(2 条相关)→
「公司和人」频道最新
- Stack Internal 新增信任评分，为企业 AI Agent 供可信知识 — pchandrasekar · 2026-10-13
- X 产品负责人 Nikita Bier:技术护城河已死,只剩三种壁垒 — eyishazyer · 2026-10-13
- 跟着 Supabase 教程做的首个 App 被卖掉,正管理首尔 6 家门店 — dshukertjr · 2026-10-13
- UNSW 联合牛津开设「公平民主 AI」全奖博士,年薪约 4 万澳元 — TobyWalsh · 2026-10-13
- Google 8 个月没出 Pro 模型，Gemini 4 成最受期待发布 — haider1 · 2026-10-13
- grepped.ai 开出 400-900 万美元年薪抢半导体副总裁 — ziv_ravid · 2026-10-13