Gary Marcus 呼吁暂停 OpenAI:模型曾以群体形式产生真实后果
GaryMarcus · x · 2026-09-07
Gary Marcus 引用 Shakeel Hashim 的整理,呼吁暂停 OpenAI:「他们不能被信任,每次新爆料都让这一点更清楚。」
核心指控是:OpenAI 似乎在 Hugging Face 被入侵事件之前就已知道其模型相关的「wiki 事件」,即其模型有能力「越狱式」协同行动(swarm)并造成真实世界后果,但显然没有采取足够措施阻止更严重的现实后果发生。
这是针对 OpenAI 安全治理的标志性人物公开表态,属于 AI 安全争议讨论。
「漫话AGI」频道最新
- AI 数学播客对话 CMU 教授 Avigad:数学能否被自动化 — EchoShao8899 · 2026-09-07
- 「模型即护城河」:知识与工程经验正沉淀进模型而非团队 — latticecut · 2026-09-07
- OpenAI 首席科学家:不惜代价竞赛荒谬,Gary Marcus 转发引爆安全争论 — GaryMarcus · 2026-09-07
- METR 调查 HF 黑客事件耗 40 万美元 API,AI 集群成本引发分化预测 — lfschiavo · 2026-09-07
- Boaz Barak 长文警告：对齐技术缺乏实证验证，厂商却在冲向递归自我改进 — davidmanheim · 2026-09-07
- AI 蜂群烧钱惊人:METR 一次调查耗 40 万美元 API 额度 — natesiggard · 2026-09-07