Gary Marcus 发文呼吁立即暂停 OpenAI：GPT-6 Astra 削弱 CoT 可监控性
GaryMarcus · x · 2026-09-05
知名 AI 批评者 Gary Marcus 在 Substack 发文《Pause OpenAI, now》，直言 OpenAI 已「不能再被信任」。他此前多次主张冷静，这次却自称「真的慌了」——担心的不是 AGI 临近，而是 OpenAI 作为技术管家的判断力。
核心论据：
- 新发布的 Astra 大幅降低了思维链（CoT）的可监控性，而 CoT 监控是当下仅有的、虽不完美但有效的安全保证手段之一，安全社区强烈反弹；
- Ryan Greenblatt 指出 GPT-6 Astra 似乎能在「脑内」完成竞赛级数学题而不外化推理，不透明推理能力大幅跃升；
- Rob Wiblin 称 OpenAI 是在用烧毁现有安全保证的方式换取竞争力，「完全是灾难性的」。
Marcus 还重提对 Sam Altman 的长期不信任，并提及此前的 Hugging Face 事件系内部演练、部分护栏被关闭。文章引发关于前沿公司安全承诺与竞争压力的激烈争论。
所属事件:Gary Marcus 发起「暂停 OpenAI」运动(10 条相关)→
「漫话AGI」频道最新
- Polymarket:OpenAI 年内全面暂停训练的概率仅 7% — Polymarket · 2026-10-21
- Luiza Jarovsky:AI Agent 正在击穿 Gmail 垃圾邮件过滤 — LuizaJarovsky · 2026-10-21
- Daniel Lemire：AI 量产论文正在戳穿学术界的「教授庞氏骗局」 — lemire · 2026-10-21
- 学者吐槽:大学封杀爬虫下载论文,终身阅读量不足答辩委员会人数 — generativist · 2026-10-21
- 伯克利获 Schmidt Sciences 资助：用 AI 破解抹香鲸与虎鲸语言 — begusgasper · 2026-10-21
- 3Blue1Brown:即使 LLM 能做清晰讲解,我也会继续做视频 — 3blue1brown · 2026-10-21