Sam Altman 称将主动放慢 AI，被质疑「安全案例」无人可查
alex_verem · x · 2026-09-15
Sam Altman 长文提出 AI 发展的两种失败路径：一是未来失控于 AI，OpenAI 自称「Team Humanity」，要求对齐与安全技术领先于能力进步；二是权力过度集中于一人、一家公司或一个国家，后果可能是极权式的。为此 OpenAI 现在会在每次预期产生大幅能力跃升的前沿训练前撰写 safety case。
转发者 alexverem 提出尖锐批评：
- safety case 由想跑这次训练的人自己写，且按帖中说法没有任何外部人士能审阅，写完照跑不误；
- 「放慢速度」没有单位——比什么慢、慢多少？「比原本可能的慢」对所有公司都成立；
- 警告单一实验室权力过大将导致反乌托邦的，正是最接近拥有这种权力的实验室，「他在从风险内部描述风险」。
整篇内容无法从外部验证，构成一份对 OpenAI 自我监管承诺的实锤性质疑。
所属事件:Dario 呼吁前沿 AI 减速，全球治理路线激辩(39 条相关)→
「漫话AGI」频道最新
- Nat Lambert：开源模型或是维系 AI 生态的关键粘合剂 — natolambert · 2026-10-31
- 李开复新书《AI Native》11 月 3 日上市，获纳德拉作序推荐 — kaifulee · 2026-10-31
- AI 安全进入黑暗时代：Agent 会探测一切攻击面 — graceisford · 2026-10-31
- 闭门夜话:组织出货快 5 倍，GDP 却没涨 30% 的原因 — graceisford · 2026-10-31
- 公司用 AI 裁掉工程师后开始高薪返聘：判断力无法替代 — DavidLinthicum · 2026-10-31
- Nathan Young 提出四套方案：用预测市场问责 AI 圈不良行为 — NathanpmYoung · 2026-10-31