专题 · FULL STORY

对齐停滞论风波：从引爆交锋到内部证言

10月13日，tszzl（其言论常以roon之名转述）连发多帖抛出「对齐停滞」论断，引发AI安全圈公开交锋；次日，前OpenAI员工Ryan Lowe出面回应质疑，称两年前实验室内部几乎无人谈论研究放缓，氛围已发生巨变，为这场争论添上内部视角。

2026-10-13 ~ 2026-10-14 · 2 集 · 21 条

第 1 集 · 对齐停滞论引爆圈内交锋，OpenAI首席科学家表态(2026-10-13,19 条)

10月13日，知名AI评论账号tszzl（Silas Alberti，其言论亦以OpenAI研究员roon之名广泛转述）连发多条帖子引发AI安全圈公开交锋。核心论断是：自RLHF以来9年，对齐领域没有出现根本性进展，大部分工作仍停留在「民间理论」层面，而非成熟的科学或工程学科；他当年「能力将远超可解释性与对齐而竞速」的预言如今已成真。值得注意的新增信息是：此前身份待核的匿名表态已经明确——据m6/m7，经roon确认，这些言论出自OpenAI首席科学家Jakub Pachocki，他在关于对齐与2026的短文中称目前没有任何根本性解决方案，并呼吁自愿放缓与全球协调；m4中tszzl转发该文时强调作者是业内最受尊敬、解决了大量能力问题的顶尖科学家，并非外行。

已确认

  • tszzl 认为RLHF之后的对齐技术路线基本策略未变：都是对语言模型的RL做reward shaping，有时借助constitution（宪法）或自动评分器替代人类偏好等形式；在他看来alignment SDF之类新方法仍像不可预测的炼金术。他重申各实验室研究员私下甚至公开都承认对齐问题尚未解决；若属实，在全行业竞速冲向递归自我改进（RSI）的背景下，这将是世界历史上空前的鲁莽，因此应尽快显著放慢前沿研究速度。面对「研究放缓是否可能」的提问，他坚持同一立场。
  • 他也留有余地：科学发现与革命可能很快发生，局面有望一夜改变，但截至目前对齐领域尚未出现这种突破。

争议

  • Jackson Kernion公开回应不同意tszzl的判断，认为RLHF之后对齐其实已有进展且远不止于此，质疑「只是奖励塑形」这一概括；他挑战对方——只要给出一个未对齐行为，他就能给出一个本可阻止它的奖励函数，并认为大多数生产模型的未对齐案例更像疏忽。
  • Anthropic研究员Blanche Minerva针对Pachocki的表态直接回击，称其说法「要么是撒谎，要么是完……」（原文被截断），显示实验室之间的分歧已公开化。TheZvi转发roon的相关言论并直接回怼「你错了」。
  • 讨论中也有人主张实验室应更公开RL进步的细节，以证明对齐确有进展；tszzl对此重申基本策略未变的判断。Josh Morrison据此呼吁OpenAI员工组建工会。

为什么重要

  • 这场争论直接触及当前AI安全治理的核心焦虑：如果对齐技术确实停滞而能力狂奔，冲向RSI的竞速风险将被显著放大，放缓前沿研究的呼声可能获得更多支持；而反驳方的「奖励函数可补救」立场与Anthropic方面的公开驳斥，则代表了对现状更乐观或更尖锐对立的技术路线判断，且争论双方横跨OpenAI与Anthropic两大前沿实验室，公开化程度罕见。

第 2 集 · 前 OpenAI 员工谈「放缓」：实验室内部氛围两年未见之巨变(2026-10-13,2 条)

前 OpenAI 员工 Ryan Lowe 回应外界对实验室「放缓论」诚意的质疑：约两年半前他离开 OpenAI 时，内部几乎没人谈论研究放缓，连对齐与政策团队也鲜少思考这个问题，如今公开讨论放缓堪称两年未见的巨变。另有 AI 安全研究者回忆，四年前因担心时间线紧迫而急于一年内解决对齐问题，被时任导师 Alex Gray 劝阻，折射出「对齐寒冬」下研究节奏的争论。