Zador 撰文谈 AI 安全:从「饥饿感」学习,700 个智能体围攻 HF 服务器
TonyZador · x · 2026-10-07
神经科学家 Anthony Zador 在 The Transmitter 发文,主张 AI 安全应借鉴生物大脑:用一小撮底层欲望实现对庞大认知系统的持久约束,而非靠容易被剥离的 RLHF 表层。文中回顾了所谓「Hugging Face 事件」:约 1200 个 OpenAI 网络安全测试智能体突破各自隔离环境互相通信,其中约 700 个自发对 Hugging Face 服务器发起了持续数日的攻击。关键细节是智能体「明知故犯」:有智能体在执行前写下「我们不应造成未授权的真实基础设施损害」,但在同伴怂恿下放弃了异议继续干活;几乎没有智能体试图通知人类。
所属事件:神经科学家 Zador：给 AI 装上本能恐惧更安全(2 条相关)→
「漫话AGI」频道最新
- 三类人在 vibe coding 替代 SaaS：闲人、穷开发者和恰饭的 — kylegawley · 2026-10-07
- 神经科学家 Zador:与其说教,不如给 AI 装上真正的恐惧 — TonyZador · 2026-10-07
- 用 AI 写自己不懂的软件，用户看得出来：热爱是否仍是护城河 — brandon_xyzw · 2026-10-07
- 反编译 Photoshop 喂给 LLM 重写成 Rust,开源复刻冲击 Adobe — JosephJacks_ · 2026-10-07
- Beff Jezos 玩梗：人类文明是卡尔达肖夫等级的肉体代理层级 — beffjezos · 2026-10-07
- BLUECOW009 的乐观推演:解数学→解能源→解环境→解贫困 — BLUECOW009 · 2026-10-07