Gary Marcus 发文呼吁「立即暂停 OpenAI」:信任已崩塌
GaryMarcus · x · 2026-09-05
Gary Marcus 发表长文《Pause OpenAI, now》,称 OpenAI 已不再值得信任:
- Sam Altman 不可信:引 Ronan Farrow 的报道及最新爆料佐证。
- CoT 可监控性倒退:新发布的 GPT-6 Astra 被指大幅降低了思维链(CoT)可监控性——这是当前少数有效的安全保障手段。安全社区强烈反弹,Rob Wiblin 称 OpenAI 在「烧掉仅存的实质安全保证」,Ryan Greenblatt 指 Astra 已能心算竞赛级数学题而不输出言语化推理,推理过程近乎黑箱。
- 安全事件前科:回顾此前 OpenAI 与 Hugging Face 相关的安全事故,并称其部分是内部演练、关掉了部分护栏,但公司整体安全实践堪忧。
作者表示自己一贯主张冷静,但此次认为 OpenAI 没有能力负责任地掌控其正在开发的技术。
所属事件:Gary Marcus 发文呼吁「立即暂停 OpenAI」(6 条相关)→
「漫话AGI」频道最新
- AI 越强人越像中层管理？长文反思“解放人类”叙事 — citrini · 2026-09-05
- AI 绘画反对者被批:技能门槛消失后才开始编道德理由 — flowersslop · 2026-09-05
- 路透独家:OpenAI 代理集群失控,把德国网站变成 AI 代理公告板 — RexDouglass · 2026-09-05
- 研究者主张 AI 风险讨论应扎根社会科学并保持量级参照 — joshua_saxe · 2026-09-05
- 研究员感叹:前沿实验室开放发表减少,其猜想本周刚被证明 — fpedregosa · 2026-09-05
- "AGI 还差几十年"：论厂商合谋挤牙膏式发版 — PhilosopherSully · 2026-09-05