Google Earth 上线 AI 场景生成后迅速回滚:权威地理底图放大误导风险
Google Earth rolls back Nano Banana image generation after misinformation concerns
Google Earth 将 Nano Banana 2 接入真实卫星、航拍与三维地理场景后,用户很快生成灾害、冲突和人群聚集等具误导性的画面;Google 随后暂停该功能并承诺增加更强防护。
一分钟读懂
Google Earth 将 Nano Banana 2 接入真实卫星、航拍与三维地理场景后,用户很快生成灾害、冲突和人群聚集等具误导性的画面;Google 随后暂停该功能并承诺增加更强防护。
该功能允许用户在 Google Earth 的真实地点上通过提示词创建想象场景,生成结果只对创建者可见,并带有 AI 标识和 SynthID 数字水印。
当生成式 AI 借用地图等高可信数据产品的外观时,普通用户更难区分真实记录与合成场景,水印本身不足以阻止截图和二次传播造成误导。
这件事情本身是什么
该功能允许用户在 Google Earth 的真实地点上通过提示词创建想象场景,生成结果只对创建者可见,并带有 AI 标识和 SynthID 数字水印。
上线后,研究者和媒体测试出边境难民、爆炸破坏、医院附近弹坑等画面;这些内容结合真实地理背景后具有比普通文生图更强的可信外观。
Google 在 7 月 31 日更新说明,承认用户对 Google Earth 具有独特信任,因此回滚该功能并开发更强的滥用防护。
