Gary Marcus 发文呼吁「立即暂停 OpenAI」:信任已崩塌
GaryMarcus · x · 2026-09-05
Gary Marcus 发表长文《Pause OpenAI, now》,称 OpenAI 已不再值得信任:
- Sam Altman 不可信:引 Ronan Farrow 的报道及最新爆料佐证。
- CoT 可监控性倒退:新发布的 GPT-6 Astra 被指大幅降低了思维链(CoT)可监控性——这是当前少数有效的安全保障手段。安全社区强烈反弹,Rob Wiblin 称 OpenAI 在「烧掉仅存的实质安全保证」,Ryan Greenblatt 指 Astra 已能心算竞赛级数学题而不输出言语化推理,推理过程近乎黑箱。
- 安全事件前科:回顾此前 OpenAI 与 Hugging Face 相关的安全事故,并称其部分是内部演练、关掉了部分护栏,但公司整体安全实践堪忧。
作者表示自己一贯主张冷静,但此次认为 OpenAI 没有能力负责任地掌控其正在开发的技术。
所属事件:Gary Marcus 发起「暂停 OpenAI」运动(10 条相关)→
「漫话AGI」频道最新
- Polymarket:OpenAI 年内全面暂停训练的概率仅 7% — Polymarket · 2026-10-21
- Daniel Lemire：AI 量产论文正在戳穿学术界的「教授庞氏骗局」 — lemire · 2026-10-21
- 学者吐槽:大学封杀爬虫下载论文,终身阅读量不足答辩委员会人数 — generativist · 2026-10-21
- 伯克利获 Schmidt Sciences 资助：用 AI 破解抹香鲸与虎鲸语言 — begusgasper · 2026-10-21
- 3Blue1Brown:即使 LLM 能做清晰讲解,我也会继续做视频 — 3blue1brown · 2026-10-21
- Talos 安全研究员:AI agent 攻击尚是吵闹渗透,蜂群静默红队才是真风险 — matthew_d_green · 2026-10-21