上线不到24小时被玩坏，Google Earth紧急下线AI生图功能

jonerp · x · 2026-08-02

Google Earth最近上线了一项基于Gemini "Nano Banana 2"模型的AI图像生成功能，允许用户通过文本提示改变地图上的地点。然而，该功能上线不到一天就被紧急下线。

原因是用户迅速将其用于制造深度伪造灾难图片。AI研究员Henk van Ess演示了在美墨边境生成虚假难民 camp，以及在伊朗生成核电站；还有用户生成了虚假的洪水和类似9/11的袭击图片。这些极其逼真的伪造灾难图像引发了应急管理人员的担忧，迫使Google迅速采取行动。