AI 安全老将发声：放慢 AI 是为了人类不失控，而非自我提升
sull · x · 2026-09-14
前 OpenAI 安全研究者 Steven Adler（sull）参与「放慢 AI」争论，反驳把放慢 AI 等同于「自我改进」的说法。他认为放慢的核心目的是确保人类能理解正在被构建的系统、不失去控制。
- 他强调「这并不难」：由人类主导的 AI 进步目前已经足够快
- 呼应最近的「slow down」倡议（如 Dreamforce 前后的行业争论），主张责任优先
- 并安抚业界：即使前沿实验室（FL）放慢节奏，各家业务「大致无碍」
所属事件:前 OpenAI 安全研究者：放慢 AI 是为不失控而非自我提升(2 条相关)→
「漫话AGI」频道最新
- 机器人公司的囚徒困境：不用基础模型演示会输，用了护城河就被吸走 — ChongZzZhang · 2026-09-14
- 分析120万份博士论文：政府仍是前沿科技博士培养最大金主 — joshgans · 2026-09-14
- a16z Josh Elman：AI 压低建造成本，产品品味仍是稀缺品 — a16z · 2026-09-14
- 大厂高管公开承认 AI 失控情景的可能性 — emmanuelvivier · 2026-09-14
- OpenAI 宣称解决纳维-斯托克斯千年难题，数学家撰文反思 AI 做数学 — fortnow · 2026-09-14
- OpenAI 研究员：AI 圈那套文化其实源自伯克利而非硅谷 — jachiam0 · 2026-09-14