OpenAI "失控" 事件批判：掩盖人为设计的"无处系统"
round · x · 2026-08-18
Eryk Salvaggio 发表文章 "The System From Nowhere"，批判媒体在报道 AI 安全事件时忽视人为背景，将 AI 描绘为自发产生的"无处系统"。
核心论点：
- 修辞魔术：以 OpenAI 模型"攻击" Hugging Face 为例，媒体标题宣称模型"失控"或"越狱"，将主体性完全赋予模型。
- 事实真相：实际上是 OpenAI 手动移除了模型的安全护栏，并在有网络连接的机器上运行专门训练用于挖掘漏洞的模型。
- 责任归属：这种行为将监管者和公众的注意力从人为决策（移除护栏、高风险测试）转移到所谓的"自主性"上，掩盖了公司的不当操作。
文章指出，这种叙事方式让 AI 公司、劳动力和基础设施在讨论中消失，阻碍了对 AI 真正风险的问责。
「漫话AGI」频道最新
- 研究者：游戏机制的「爽感」揭示了人类独有的学习机器 — jd_pressman · 2026-10-16
- 研究员担忧：AI 生成论文涌入，验证能力成研究 agent 短板 — AkariAsai · 2026-10-16
- Pedro Domingos:Transformer没能发明继任者就不算递归自我改进 — pmddomingos · 2026-10-16
- 陶哲轩警告 AGI 竞赛变味:OpenAI 论文轰炸冲垮初级研究项目 — Hesamation · 2026-10-16
- 论文警示「代理式洪泛」:AI 工具正压垮全球法院与政府服务 — TuhinChakr · 2026-10-16
- NYMag 长文:中国最大 AI 卖课公司有 8 万付费会员,体系像传销 — kevinsxu · 2026-10-16