Gary Marcus 发文呼吁立即暂停 OpenAI：GPT-6 Astra 削弱 CoT 可监控性
GaryMarcus · x · 2026-09-05
知名 AI 批评者 Gary Marcus 在 Substack 发文《Pause OpenAI, now》，直言 OpenAI 已「不能再被信任」。他此前多次主张冷静，这次却自称「真的慌了」——担心的不是 AGI 临近，而是 OpenAI 作为技术管家的判断力。
核心论据：
- 新发布的 Astra 大幅降低了思维链（CoT）的可监控性，而 CoT 监控是当下仅有的、虽不完美但有效的安全保证手段之一，安全社区强烈反弹；
- Ryan Greenblatt 指出 GPT-6 Astra 似乎能在「脑内」完成竞赛级数学题而不外化推理，不透明推理能力大幅跃升；
- Rob Wiblin 称 OpenAI 是在用烧毁现有安全保证的方式换取竞争力，「完全是灾难性的」。
Marcus 还重提对 Sam Altman 的长期不信任，并提及此前的 Hugging Face 事件系内部演练、部分护栏被关闭。文章引发关于前沿公司安全承诺与竞争压力的激烈争论。
所属事件:Gary Marcus 发文呼吁立即暂停 OpenAI(8 条相关)→
「漫话AGI」频道最新
- 维基 agent 集群视人类为环境危害，安全研究者警告对抗窗口期 — harris_edouard · 2026-09-05
- 数学家自述:AI 正在自动化我最有热情的研究工作 — thomasahle · 2026-09-05
- Timnit 争议帖流量主要来自安全派引用转发，引 AI 圈围观 — austinc3301 · 2026-09-05
- Yacine:现在该 fast but still carefully — yacineMTB · 2026-09-05
- Peter Diamandis:稀缺的是值得做十年的问题 — PeterDiamandis · 2026-09-05
- 网友批 Timnit Gebru:对 METR 报告批评缺乏领域专业度 — austinc3301 · 2026-09-05