快速上线又同样迅速下架——这就是谷歌将基于Nano Banana模型的AI图像生成器集成到Google Earth中的故事。该工具存活了不到24小时,开发者就不得不将其停用。原因既平常又具有代表性:用户迅速找到了违反服务规则的方法,将地图产品变成了生成公然误导性内容的平台。

该功能的核心在于,根据文本提示在地图上“补绘”任意地点或事件。这听起来像是一个便捷的创意工具,用于可视化假设场景。然而,现实远没有那么无害。上线仅几小时后,社交媒体上就流传开了神经网络生成的图像,例如洛杉矶的巨大爆炸坑或被淹没的美国国会大厦。

尤其令人担忧的是,系统甚至无法应对基本的请求审核。开放数据研究员亨克·范·埃斯在测试中发现,他的提示词,包括创建美墨边境难民或伊朗核设施图像的请求,都未受到任何拦截。这直接表明Nano Banana中的内容过滤机制要么不存在,要么设置得极为肤浅。

从专业分析的角度来看,这一事件不仅仅是技术故障,而是系统性问题的征兆。谷歌再次试图将生成式AI引入大众产品,但仓促行事导致了声誉风险。当涉及被视为客观数据来源的地图服务时,任何对现实可视化的操纵都尤其危险。虚假的灾难或军事设施图像可能引发恐慌,或被用于宣传。

我的结论是:谷歌回滚该功能的做法是正确的,但这一上线行为本身就对内部质量控制流程提出了质疑。在追求创新的同时,不能忘记对用户的基本责任。对整个行业的教训显而易见:生成式AI在地理空间产品中的应用不仅需要技术实现,还需要深入考虑伦理和法律限制。否则,我们可能会得到一个不是提供信息而是操纵信息的工具。