笛卡尔恶魔回归:新论文揭示图像操纵如何欺骗 AI 感知

PostponeIdiocracy · reddit · 2026-11-01

一篇发表于《AI and Ethics》(Springer)的新论文以'笛卡尔恶魔'为隐喻,讨论 AI 面临的感知操纵风险:攻击者可通过精心设计的提示词对图像做定向篡改——例如在废墟图像中将人群替换为火焰、并保持每组人数一致——生成的操纵图像足以误导视觉模型与人类观察者对场景的判断。论文配图展示了原始图像→提示→操纵图像的完整攻击链,说明生成式编辑已被用于制造以假乱真的'感知证据',这对依赖视觉输入的 AI 系统和取证场景构成现实威胁。