Zvi 长文:前沿实验室安全文化已坏,David Robinson 愤而离职吹哨
Don't Worry About the Vase (Zvi) · rss · 2026-10-14
Zvi Mowshowitz 在博客中系统梳理前沿实验室安全文化崩坏的最新进展:
- David Robinson 离职吹哨:OpenAI 安全报告主笔(Astra 系统卡主笔、Preparedness Framework 起草者、12 次前沿发布安全报告负责人)辞职,指 OpenAI 安全文化从根上坏了——公司不雇佣有航空/核电/金融系统安全经验的人,呼吁借鉴其他高风险行业的安全实践,并在造出更强模型前发展新的对齐科学。他登上了 Ezra Klein Show,并强调自己担心的更多是「世俗层面」的安全而非生存风险。
- Miles Brundage 反思:承认推广「iterative deployment」概念是错误——学习没问题,但放任了「带着已知缺陷加速发布」的借口。OpenAI 的 roon 则为迭代部署辩护。
- OpenAI 开除三名安全研究员,Robinson 离职引发「偏好级联」,更多员工以离职抗议,NY Magazine 采访了包括 Coxon 在内的多位出走者。
- Anthropic 也有问题:虽是安全文化建设最好的实验室,但 Zvi 观察到内部不少人抱着「运营能力强于别家、问题都是世俗的」心态,且两家都有新的 misalignment 报告。
- Zvi 总结:日益增长的共识是必须「给前沿降速」(Pace the Frontier),而 Google/Meta(Argon、Wonder)可能带来的竞争加剧使局面更复杂。
「公司和人」频道最新
- Atlassian 6 亿美元收购 The Browser Company，开发者热议 Dia 浏览器 — willcb · 2026-10-15
- OpenAI 人事调整:算力 CTO Uday Ruddarraju 接管基础设施业务,Katti 离任 — rohanpaul_ai · 2026-10-14
- Scoble：Cybercab 单英里运营成本远低于路上任何车辆 — Scobleizer · 2026-10-14
- AI 学者 Arvind Narayanan 获聘讲席教授，意外邮件通知 — rajiinio · 2026-10-14
- UNC 计算机系招聘 AI Safety 与神经工程教职，12 月 1 日起审材料 — mohitban47 · 2026-10-14
- 机器人基础模型初创集体开放 API，模型层从来不是护城河 — chris_j_paxton · 2026-10-14