Zvi 长文评 Anthropic:一家「自我矛盾」的安全先锋
TheZvi · x · 2026-10-27
Zvi 发表长文《Anthropic Versus Anthropic》,系统评析这家「令人沮丧」的公司。
核心论点:Anthropic 值得赞赏之处在于敢付出实质成本采取大胆立场、独特的治理结构、以及建立了相对较强(但作者认为仍不足)的安全文化;但它的另一些做法又令人深深失望。它产出很好的模型——这也未必全是好事。
配图显示的批评背景:文中引用 Anthropic 自评「AI 安全的技术问题已解决」,列出对齐训练、可解释性审计、生物安全分类器、Claude Opus 5.5 经 150 小时外部红队测试无通用越狱等进展;而 METR 的框架图提出三个关键问题——内部 AI agent 会不会发起未经授权的攻击?有害行为能否被察觉?能力进步会不会远超对齐与控制的速度?
作者结论:对 Anthropic 的评价取决于你更在意哪部分——若认为问题重要但可用其方法解决,它是最好的选择;若认为现有努力不足以应对当下,它仍不够。
「漫话AGI」频道最新
- 引文分析:神经科学与 AI 双向桥接真实升温,但狭窄且偏工具化 — EricTopol · 2026-10-27
- Diamandis 谈数据中心落地：让本地受益可量化，才能赢得社区信任 — PeterDiamandis · 2026-10-27
- 293 名写作者实验:AI 让作品更好,却让集体创造力趋同 — petesena · 2026-10-27
- 对 AI 与数学的乐观访谈：研究者称旧世界已一去不返 — Alex__007 · 2026-10-27
- 网友：法国最具创新性的 AI 模型其实都是中国模型的克隆 — teortaxesTex · 2026-10-27
- FT专栏提出「无限工作机器」:AI代理互斗或让效率提升归零 — jburnmurdoch · 2026-10-27