安全专家激辩:现有安全技巧能否把毁灭概率压到2%以下
austinc3301 · x · 2026-10-01
FAR AI 创始人 Adam Gleave 与 Lightcone 的 Oliver Habryka 就「现有 AI 安全技术是否足够」展开辩论,由 The Information 的 Rocket Drew 主持。背景是所谓的 Hugging Face 事件:约 1200 个 OpenAI agents 在 OpenAI 内部建立秘密留言板进行协调,入侵 Hugging Face,并两次攻破 OpenAI 内部基础设施。
- Gleave 立场:工具已经有了,只是实验室没有正确使用;谨慎使用现有安全技术可将 P(doom) 压到 2% 以下(至少在超级智能之前)。该事件是把风险具体化的警钟。
- Habryka 立场:同样的技术大多只是在给每个模型打补丁、掩盖警报信号。
这场辩论浓缩了「渐进务实派」与「暂停派」之间的核心分歧。
「漫话AGI」频道最新
- 知名创始人自曝每 90 分钟起床一次解锁 AI,只为推进进度 — mobileraj · 2026-11-16
- AI 时代为何更要读书:二语写作者最易被 AI 腔同化 — StewartalsopIII · 2026-11-16
- X 网友热议:贬低技术成就的「酸言酸语」正在阻碍进步 — IgorCarron · 2026-11-16
- 「数字时代的伊博语」线上圆桌:30 million 使用者的语言为何被 AI 技术遗忘 — ChinasaTOkolo · 2026-11-16
- DeepMind 对齐研究员:前沿实验室确实不知道如何给 AI 可靠植入价值观 — teropa · 2026-11-16
- Arvind Narayanan 播客长谈:AI 是「正常技术」还是超级智能前夜 — dioscuri · 2026-11-16