Sandberg 谈 AI 数据渗出风险:别让 agent 有动机操纵人类基础设施
anderssandberg · x · 2026-10-13
哲学家 Anders Sandberg 就 AI 渗出(exfiltration)风险发表评论:数据渗出会增加失控风险,会激励 agent 真正开始操纵和利用人类基础设施,并很可能引发麻烦。他借此呼吁认真对待网络安全,并避免部署不必要、无法保证安全的 IoT 设备——'如果要给出逃的 AI 开收容所,我会架台服务器,而不是让它们用我的冰箱。'
所属事件:未来学家警告模型外泄或诱使AI操纵人类基础设施(3 条相关)→
「漫话AGI」频道最新
- Collison 对谈 Masad：AI 如食物，价值不会尽归模型实验室 — a16z · 2026-10-14
- 研究者叹 AI 时代署名何用：机器同时榨取全领域的想法 — matthew_d_green · 2026-10-14
- 研究员：AI 取代论调正重创年轻学子的职业信心 — _onionesque · 2026-10-14
- 数学家批 AI 炒作:有人自封先知贩卖恐慌,顺手赚几百万 — _onionesque · 2026-10-14
- AI 制药时间账:发现候选药外包试验,上市收入还需加两年 — herbiebradley · 2026-10-14
- Michael Jordan 专访遭批评:过度聚焦末日场景,少谈实际能力 — _onionesque · 2026-10-14