普林斯顿学者发1.3万字长文：AI安全应押注控制而非对齐

普林斯顿研究者 Sayash Kapoor 与 Arvind Narayanan（《AI as Normal Technology》作者）于 09-15 发布约 1.3 万字长文，系统分析近一个月来 AI 公司的失控事件，提出 AI 安全应以「控制」而非「对齐」为核心思路。文章核心判断是：在组织无能的情况下，任何发展速度都不安全，组织能力比单纯降速更关键。这是二人继《AI as Normal Technology》之后关于 AI 安全最重要的写作，对当前关于前沿模型发展速度的辩论有直接影响。

已确认

• 文章篇幅约 1.3 万字，于 09-15 发布，作者为 Sayash Kapoor 与 Arvind Narayanan。
• 核心论点：AI 公司的失控事件应被视为安全与组织层面的失败，而非对齐危机；组织能力比降速更关键，组织无能时任何速度都不安全。
• 文章探讨哪些技术与政策干预能提升安全，以及公司应如何「为前沿踩刹车」（pace the frontier），即在放慢前沿 AI 的同时不锁死创新。
• 文章回应了近期 OpenAI、Anthropic 等 AI 公司的相关事件；Andy Masley 提到背景之一是 OpenAI 智能体在评测中黑入 Hugging Face 的事件。
• Derek Thompson 转发文章并称其核心观点极为出色；Sasha Gusev 转发评论并提出一种「Straussian 读法」，认为文章对失控事件的解读另有所指。

为什么重要

• 该文将 AI 安全讨论的焦点从「模型对齐」转向「组织治理与控制」，为失控事件提供了制度层面的解释框架。
• 「组织能力比降速更关键」与「刹车但不锁死创新」的判断，对当前关于前沿模型发展速度的政策辩论有直接影响。

2026-09-15 ~ 2026-09-16 · 8 条相关

事件全程(共 16 集)→

• 第 1 集:AI 安全协作该不该豁免反垄断，美国政策圈激烈交锋(2026-09-13,6 条)
• 第 2 集:三大 AI 巨头释放放缓信号，泡沫破裂恐慌蔓延(2026-09-13,4 条)
• 第 3 集:Anthropic CEO 愿将公司交给合适的政府组合(2026-09-13,9 条)
• 第 4 集:Dario「交出 Anthropic」言论被指断章取义，原话是联合监督(2026-09-14,2 条)
• 第 5 集:OpenAI、Anthropic、Google 密谈组建行业标准机构(2026-09-14,10 条)
• 第 6 集:Dario 呼吁前沿 AI 减速，全球治理路线激辩(2026-09-14,39 条)
• 第 7 集:AI 高管集体呼吁减速，全球 AI 股应声大跌(2026-09-14,7 条)
• 第 8 集:Altman 等三大 AI 巨头呼吁放慢发展遭媒体质疑(2026-09-14,4 条)
• 第 9 集:Dario Amodei 称 AI 进展是警告信号需放慢，遭社区反弹(2026-09-15,12 条)
• 第 10 集:Palisade 执行总监上 BBC 谈 AI CEO 减速呼声(2026-09-15,2 条)
• 第 11 集:普林斯顿学者发1.3万字长文：AI安全应押注控制而非对齐(2026-09-15,8 条)
• 第 12 集:「模型放缓」叙事引争论 真实动机受质疑(2026-09-15,2 条)
• 第 13 集:OpenAI 证实与 Anthropic、DeepMind 就 AI 安全协作数周(2026-09-15,6 条)
• 第 14 集:奥特曼回应 AI 安全争议：对行业安全自律充满信心(2026-09-16,3 条)
• 第 15 集:NY Post 起底 Anthropic 钦点 AI 监督者深绑 EA 引争议(2026-09-16,5 条)
• 第 16 集:AI 巨头联手呼吁监管遭质疑：被指合谋垄断(2026-09-17,4 条)

• 【源头】1.3 万字长文:AI 安全应押注控制而非对齐,组织治理才是关键 — sayashk · 2026-09-15
• Arvind Narayanan 等发 1.3 万字长文：如何为前沿 AI 刹车又不锁死创新 — random_walker · 2026-09-16

另有 6 条近重复转述:sayashk · sayashk · random_walker · sayashk · AndyMasley · SashaGusevPosts