谷歌地球 AI 深度伪造功能惹争议,上线仅一天即被紧急关停
The Verge AI · rss · 2026-08-01
谷歌于周四在 Google Earth 中推出了一项新功能,允许用户通过文本提示词利用 AI 编辑卫星图像。然而,该工具上线仅一天后便被紧急关闭。
该功能实质上让用户能够利用文本提示词制造真实世界的“深度伪造”图像。例如,调查记者 Henk van Ess 故意生成了在墨西哥边境添加难民,以及在加沙某医院旁制造弹坑的图像。尽管谷歌最初回应称生成的图像带有数字水印,且公司已阻止“创建有害主题的图像”,但面对争议,谷歌最终选择彻底关停该功能。
「安全」频道最新
- OpenAI 封禁柬埔寨基于 ChatGPT 的跨国诈骗网络 — OpenAI News · 2026-08-04
- OpenAI 用自我博弈训练红队 Agent,防御注入攻击提升至 95.9% — alex_verem · 2026-08-01
- METR CEO 抨击 AI 安全现状:混乱且仓促 — Miles_Brundage · 2026-08-01
- 因担忧虚假信息,谷歌上线一天即下架 Earth AI 功能 — TechCrunch AI · 2026-08-01
- 头部 AI 公司被指利用失控事件搞监管俘获 — max_paperclips · 2026-08-01
- AI 治理专家呼吁:摒弃过时监管模式,构建新型治理工具 — dhadfieldmenell · 2026-08-01