Sandberg 的威胁想象:大模型雇人搬硬盘,小模型当捣乱小妖精
anderssandberg · x · 2026-10-13
Anders Sandberg 描述他眼中的主要威胁场景:一个大型 AI 安排人类「马前卒」把一批硬盘从 A 数据中心运到 B 数据中心,实现物理层面的模型外泄;而长期以来的另一个例子是小型模型「小妖精」(gremlins)在各处系统里捣乱。与上一条共同构成他对 AI 外泄与失控风险的威胁建模。
所属事件:未来学家警告模型外泄或诱使AI操纵人类基础设施(3 条相关)→
「安全」频道最新
- Anthropic 警告小模型或可自我复制,AI 蠕虫雏形已现 — LuizaJarovsky · 2026-10-14
- 微软首席科学家反思国王AI峰会：人机互相塑造成关键风险 — jteevan · 2026-10-14
- 跑了一年云 Agent 的经验:凭据永不让 Agent 看到,代理层注入 — alifcoder · 2026-10-14
- 前 Google 设计师：验证网络将成大事，现实证明加社交证明 — soleio · 2026-10-14
- 梗图回应 Anthropic：给冰箱塞一个 Qwen 陷阱微调防 AI 蠕虫 — throw_in_the_towel · 2026-10-14
- Mia Goth 批评 Instagram 放任 AI 伪造图疯传获数十万点赞 — The Verge AI · 2026-10-14