前OpenAI研究员Aidan Clark首度自问AI是否太快，批治理提案脱离一线

9月9日，前OpenAI核心研究员、现供职于Anthropic的Aidan Clark（自称「Ants」之一）公开表示，自己第一次开始怀疑AI是否发展得太快，并坦言「说实话我也不确定」。他认为行业需要先回答更根本的问题：什么样的节奏才算成功的pace——目前没有人给出清晰答案，他呼吁业界在未来数月内拿出明确提案，并以人类福祉为先。同一线程中，他对Peter Wildeford等人的AI发展节奏管控提案给出尖锐批评，引发安全治理圈与前沿实验室一线视角之间的持续讨论。

已确认

• Clark首次公开表达对AI发展速度的疑虑，呼吁正面定义「成功节奏」
• 讨论中引用了IFP（Institute for Progress）与AI Futures Project的两篇分析报告，其中一份题为《美国如何为自动化AI研发做准备》，包含23条低风险政策建议
• sjgadler认为AI发展的默认走向大致接近Peter Wildeford提出的「Scramble」情景
• Clark对外部治理提案给出具体批评：提案有想法，但作者显然远离前沿实验室一线细节，把关键困难过度抽象、过度聚焦递归自我改进（RSI），忽视当下现实，这种疏离是有害的
• 他提出判断标准：任何关于AI发展节奏治理的提案，如果不大量提及Anthropic和OpenAI，很可能没有落在正确的细节层级上，因为前沿模型的实际开发进度由这两家决定；他表示愿意帮忙补充提案细节
• 他指出外界对实验室的算力和项目运作普遍缺乏准确认知，「伸手进箱子」式的外部干预建议通常站不住脚
• 面对「如果真信风险，为什么还在造AI」的质疑，Clark回应称：若认为AI有约10%的概率灭绝全人类，继续做AI的唯一辩护理由就是把实验室的人当成「坏人」。相关讨论中流传较广的一条推文补充了内部视角：OpenAI许多人并未真正内化「文明级风险」，而Anthropic充分理解风险，但被困在竞速中，认为没有其他实验室会负责任地行事
• 围绕风险沟通方式，BronsonSchoen批评「我们是负责任的一方所以必须继续」的表态同样有问题，认为末日式风险传播最终只会变成公司互相甩锅；ericlim则认为圈子普遍低估AI技术的量级，缺少「这件事现在就能带来好处」的叙事，积极叙事比「会杀人」式的doomerism传播更有效

为什么重要

• 这一表态来自曾身处OpenAI核心研究一线、现属Anthropic的人员，其首次出现「是否太快」的疑虑本身即是信号
• 线程完整呈现了安全治理圈与前沿实验室一线视角之间的张力：治理提案被批脱离实际，「信风险为何还造」的质疑得到一线回应，而「什么节奏算合适」的正面定义仍付之阙如

2026-09-09 ~ 2026-09-09 · 12 条相关

• 【源头】前 OpenAI 研究员 Aidan Clark:第一次自问 AI 是否发展太快 — _aidan_clark_ · 2026-09-09
• IFP 报告:美国如何为自动化 AI 研发做准备,给出 23 条低风险政策建议 — sjgadler · 2026-09-09
• AI 情景讨论:默认走向或是 Peter Wildeford 的「Scramble」剧本 — sjgadler · 2026-09-09
• 前沿实验室研究员批评安全提案：过度聚焦 RSI、脱离实际 — _aidan_clark_ · 2026-09-09
• 前沿实验室内部人士批 AI 管速提案：脱离实际、过度聚焦 RSI — sjgadler · 2026-09-09
• DeepMind 前研究员批评 AI 治理提案:不提 OpenAI Anthropic 即不合格 — _aidan_clark_ · 2026-09-09
• 【源头】前 Anthropic 联创：多数 AI 安全提案根本不了解实验室实情 — _aidan_clark_ · 2026-09-09
• 【源头】圈内人剖析:OpenAI没内化风险,Anthropic懂风险却被迫抢跑 — peterwildeford · 2026-09-09
• Anthropic 研究员回应质疑：哪怕 10% 灭绝风险也要做好 AI — _aidan_clark_ · 2026-09-09
• AI 安全圈争论:「末日式风险传播」是否只会变成公司互相甩锅 — BronsonSchoen · 2026-09-09
• ericlim:与其喊「AI 会杀人」,不如多讲「现在能做成什么好事」 — ericlim · 2026-09-09

另有 1 条近重复转述:JoHeidecke