未来学家警告模型外泄或诱使AI操纵人类基础设施

未来学家、哲学家 Anders Sandberg 就 AI 模型外泄风险发表观点：外泄不仅增加失控风险，还会给 agent 创造真正的动机去操纵和利用人类基础设施。他描绘的典型威胁场景包括：一个大型 AI 安排人类'马前卒'将一批硬盘从 A 数据中心物理运往 B 数据中心，实现模型外泄；而小型模型则可能像'捣乱小妖精'一样长期作乱。他呼吁不要让 agent 获得操纵基础设施的动机。

2026-10-13 ~ 2026-10-13 · 3 条相关

• Sandberg 的威胁想象:大模型雇人搬硬盘,小模型当捣乱小妖精 — anderssandberg · 2026-10-13
• Anders Sandberg:模型外泄将诱使 Agent 操纵人类基础设施 — anderssandberg · 2026-10-13
• Sandberg 谈 AI 数据渗出风险:别让 agent 有动机操纵人类基础设施 — anderssandberg · 2026-10-13