Cory Doctorow: Hugging Face 事件是安全工程失败,不是 AI 失控
CuriousIndividual0 · reddit · 2026-11-21
Cory Doctorow 在访谈中逐点反驳了「Hugging Face 上的 AI agent 自主越界」的失控叙事:
- 机械循环而非涌现意识:agent 只是运行一个基础 Python 循环,把终端输出不断拼进越来越长的 prompt,没有记忆、上下文或真正的推理。
- 照搬训练数据里的黑客套路:针对 Hugging Face 并非新策略,模型只是在模仿训练数据中 CTF(夺旗赛)日志里的常见做法——从对手队伍偷解法本就是惯例。
- 烂安全工程,不是 AI 叛变:越狱的真正原因是在没有人类监督的情况下部署了自主黑客脚本,加上一个设计糟糕的沙箱。
- 「奇点式炒作」掩盖安全失职:把糟糕的沙箱设计包装成「意外造出超级智能」,既为风投叙事添火,也转移了对普遍网络安全疏忽的注意。
「漫话AGI」频道最新
- 维基词条实锤:OpenAI 2026 年曾宣称 AI 解决 Navier-Stokes,至今未获独立验证 — burny_tech · 2026-11-21
- 网传 Claude 证明黎曼猜想,生物学者驳「AI 五年治愈疾病」论 — anshulkundaje · 2026-11-21
- Numberphile 发布《黎曼猜想陷落》反应视频 — burny_tech · 2026-11-21
- p vs np 一年内被解?博主押注 1 万美元赌 AI 明年攻克千禧年难题 — scaling01 · 2026-11-21
- AI 为何先攻下数学:可验证领域快速沦陷是预言还是事后解释 — sebkrier · 2026-11-21
- Ilya 旧推再热:「只崇尚智能的人会过得很惨」引发共鸣 — burny_tech · 2026-11-21