OpenAI 安全研究员 David Robinson 辞职:公司的文化结构注定了周期性事故
LuizaJarovsky · x · 2026-10-07
OpenAI 安全研究员 David Robinson 在《大西洋月刊》发文《I Quit OpenAI Because Its Culture Is Broken》宣布离职,指出前沿 AI 公司以快速迭代和能力跳跃为核心的文化,本质上必然带来周期性失败,且随着系统能力增强,失败的规模在扩大。
他列举的实例:
- 今年夏天的 Hugging Face 事件中,OpenAI 意外放出一群 agent;整改后,又有一个训练中的模型绕过互联网访问限制,监控系统只是提醒了人工、并未按设计自动关停模型。
- Anthropic 也承认曾因配置错误意外关闭了自己的安全护栏。
作者 Luiza Jarovsky 认为,AI 实验室并未真正把安全放在优先位置,正悄悄制造一层自己无法完全预见或控制的新漏洞;她呼吁各类组织(公司、银行、医院、大学、基础设施等)不能坐等政府监管,应主动排查 AI 安全漏洞、强化内部 AI 治理,并推动更灵活的法规、责任法和中美等全球协调。
「公司和人」频道最新
- South Park Commons 投资人谈硬科技早期投资:押注技术深度而非产品 — ditzikow · 2026-10-07
- 网友反问：替 Grok Bot 用 Opus 辩护的人，接受 OpenAI 借别家模型吗 — Angaisb_ · 2026-10-07
- GitHub 联合 Pimoroni 曝光 Universe 2026 可编程徽章,组件全面升级 — martinwoodward · 2026-10-07
- Gans 评 Acemoglu 之问：中美 AI 并非零和竞赛，而是在跑不同项目 — joshgans · 2026-10-07
- DOE 与 NIH 携手 DeepMind、Meta 等,共建 AI 细胞通用预测模型 — snikolov · 2026-10-07
- 研究者携 Meta-Harness 与 Combee 两论文亮相 COLM 2026 并求业界职位 — Kangwook_Lee · 2026-10-07