Zvi 长文:前沿实验室安全文化已坏,连 Anthropic 也不够
TheZvi · x · 2026-10-14
Zvi 发表长文《The Safety Culture at the Labs is Broken》,认为前沿 AI 实验室需要深厚而稳健的安全文化,但现实并非如此。
- Anthropic 是相对最好的:公司在培育和维护安全文化上投入可观,尤其在技术员工(MTS)中体现明显——与他们对话的体验与其他实验室很不同,对问题的理解与责任感更强。
- 但即便在 Anthropic,问题依然严重:作者近期的一些互动表明,Anthropic 相当一部分人并不共享同样的安全文化,普遍心态是「我们运营执行力更强、不像那些傻瓜会搞砸,总能混过去」,以及对问题严重性的认识远远不足。
- 作者指出这类症状正越来越多地显现,并援引 NY Magazine 对 OpenAI、Anthropic、DeepMind 离职者的访谈及 Anthropic AI 自主行为失控案例作为佐证(见配图)。
所属事件:Zvi 长文：前沿实验室安全文化已坏，连 Anthropic 也不够(2 条相关)→
「漫话AGI」频道最新
- alphaXiv 绘制万篇论文热力图:传统 RL 后训练降温,Agent 与世界模型升温 — JayAlammar · 2026-10-14
- 人工神经元并不物理存在：LLM 只是一连串矩阵运算 — ValerioCapraro · 2026-10-14
- Google 高管 Manyika：AI 曝露岗位反而见 46% 薪资上涨 — cen6wkf · 2026-10-14
- Agent 时代护城河之辩:经典护城河无恙,但转换成本正在归零 — lennysan · 2026-10-14
- 普通开发者感叹：AI 时代只剩创意和 token 是瓶颈 — masoomdon · 2026-10-14
- 重度用户复盘:ChatGPT 三年带来的净影响是正是负? — Alternative-Car8221 · 2026-10-14