OpenAI 首席科学家发文《异类心智》谈对齐与放慢扩展
OpenAI首席科学家Jakub Pachocki公开表示：目前没有任何实验室将对齐与监控问题解决到足以在更长时间内负责任地全速扩展的程度，他期待并希望「自愿放缓」成为常态，直到行业建立起共同的安全标准；他还称一旦真正认识到事关重大，「不惜一切代价向前冲」的想法就显得荒谬，并呼吁各国政府关注AI发展。该表态与研究员merettm的长文《An Alien Mind》(异类心智)同期出现，Gary Marcus、Will MacAskill等人转发扩散，引发关于AI安全与扩展节奏的广泛讨论。
已确认
- OpenAI官网发布长文《An Alien Mind》，作者为merettm，内容梳理当前AI状态、对未来几年AI发展的担忧，以及人类需要做出哪些选择才能把未来掌握在自己手中；OpenAI同日还发布了另一篇关于LLM加速科学的文章。
- Pachocki明确表示：没有任何实验室把对齐与监控解决到足以继续以最高速度负责任地扩展的程度；他期待并希望自愿减速成为常态，直到建立共同的安全底线；他还呼吁各国政府关注AI发展。
- Pachocki称「不惜一切代价向前狂奔」的想法荒谬，此言被Gary Marcus等人转发并引发关于AI安全的争论；哲学家、《What We Owe the Future》作者Will MacAskill也转发并称赞了《An Alien Mind》一文。
- 在RSI问题上，Pachocki基于内部结果强烈预期当前的进展速度可以延续到「递归自我改进」(RSI)，OpenAI已围绕这一目标组织研究，认为RSI是保持前沿地位的关键；与此同时，他提到思维链监控的可靠性在下降。
- 《An Alien Mind》及后续讨论还提出治理主张：AI系统的规模化扩展必须以对安全性的信心为约束，应把Anthropic的Preparedness Framework、OpenAI等公司的相应框架交由第三方审计并设定强制性安全门槛，而非无限推进。
- 多位社区人士参与讨论：Nathan Calvin(Encode倡导者)担心许多业界担忧者尚未意识到风险；ericho称「理解这个异类心智是世界上最重要的问题」；研究者K. Liu指出靠自愿减速维持高速scaling撑不了太久。
为什么重要
- 这一表态来自OpenAI最高研究负责人之一，却在前沿竞赛正酣之际呼吁全行业放慢扩展，与公司自身的商业节奏形成张力，被视为安全派在内部立场的罕见公开表达。
- RSI预期与对齐未达标的判断并存，意味着OpenAI可能一边押注递归自我改进、一边承认现有监控手段(如思维链监控)可靠性在下降，这直接关系到前沿模型开发的风险边界。
- 第三方审计与强制安全门槛的提议，把讨论从「是否放缓」推进到「如何制度化约束」，为监管与行业协调提供了具体抓手。
- Reddit等社区已将其与实验室间放缓scaling、国际协调等讨论联系起来，Gary Marcus等批评者的转发使争论进一步扩散到更广泛的公众层面。
2026-09-07 ~ 2026-09-07 · 15 条相关
一手来源
- OpenAI 首席科学家:尚无实验室对齐达标,应自愿放慢扩展 — GaryMarcus ·
- OpenAI 首席科学家:Pachocki 预期递归自我改进可期,但思维链监控可靠性在下降 — Hesamation ·
- 安全研究者发文警示 AI 现状，呼吁第三方审计设定强制安全门槛 — dgrobinson ·
- 《An Alien Mind》:作者警告未来几年 AI 走向失控的风险 — morqon · 2026-09-07
- 研究者警告：对齐未达标，靠自愿减速维持高速 scaling 撑不了太久 — willdepue · 2026-09-07
- 安全研究界呼吁:AI 扩展须受安全信心约束并由第三方审计强制执行 — ShakeelHashim · 2026-09-07
- 【源头】OpenAI 首席科学家:尚无实验室对齐达标,应自愿放慢扩展 — GaryMarcus · 2026-09-07
- OpenAI 首席科学家:不惜代价竞赛荒谬,Gary Marcus 转发引爆安全争论 — GaryMarcus · 2026-09-07
- 【源头】OpenAI 首席科学家:Pachocki 预期递归自我改进可期,但思维链监控可靠性在下降 — Hesamation · 2026-09-07
- OpenAI 首席科学家:没有实验室已将对齐做到可继续全速 scaling 的程度 — Tinac4 · 2026-09-07
- OpenAI 发布《An Alien Mind》:首席科学家论智能与对齐 — bparrish · 2026-09-07
- OpenAI 首席科学家发文「异类心智」,谈 RSI 与放慢 scaling — Bloated_Plaid · 2026-09-07
- OpenAI 首席科学家警告冒进竞赛荒谬,业界担忧者未意识到风险 — AdrienLE · 2026-09-07
- 【源头】安全研究者发文警示 AI 现状，呼吁第三方审计设定强制安全门槛 — dgrobinson · 2026-09-07
- MacAskill 转发 AI 未来长文：如何把未来留在人类手中 — willmacaskill · 2026-09-07
- OpenAI Jakub Pachocki 发长文谈 AI 现状与人类未来抉择 — AccBalanced · 2026-09-07