AI生图失控，谷歌紧急下线Google Earth生成功能

elonmusk · x · 2026-08-01

谷歌在7月30日为Google Earth推出了基于卫星图像的AI生图功能，但由于安全护栏严重失效，在不到24小时内便被紧急撤回。

记者实测发现，该工具几乎没有任何内容审查，用户可以轻松生成墨西哥边境的难民、伊朗核电站、阿姆斯特丹街头的致命车祸，甚至加沙地带被炸出弹坑的医院等高度敏感的虚假图像。尽管谷歌声称图像带有SynthID水印且不会在主界面显示，但在引发巨大争议后，官方仍决定在完善防御机制前彻底回滚该功能。