在Google高调亮相仅一天后,该公司就被迫关闭了集成在Google Earth中的AI图像生成器。该工具基于Nano Banana模型构建,允许用户根据文本提示在地图上“补绘”任何物体或事件——从奇幻景观到政治敏感场景。然而,违反服务规则的內容迅速传播,迫使该公司紧急停用该功能。

问题具有系统性。在功能上线的最初几个小时内,网络上就出现了生成的图像,描绘了洛杉矶的爆炸弹坑和被淹没的美国国会大厦。这些虚假内容瞬间在社交媒体上传播开来,制造出真实事件的假象。此外,正如独立开放数据研究员亨克·范·埃斯所发现的,提示词审核几乎完全缺失。

在测试中,范·埃斯请求生成与敏感主题相关的图像,例如美墨边境的难民场景或伊朗的核设施。这些请求均未被阻止,这让人对宣称的过滤算法的有效性产生质疑。这不仅仅是技术故障,更是AI开发伦理协议存在深层缺陷的信号。

Google迅速删除该功能——这是罕见地承认自身错误的案例。该公司解释称,该工具“不符合安全标准”,但未透露细节。显然,声誉受损和潜在法律后果的风险高于创新营销带来的收益。

这一事件鲜明地提醒我们,处理地理数据的生成模型需要根本不同的控制水平。与文本聊天机器人不同,这里的错误以许多人视为纪实证据的形式可视化。对于加密行业而言,数据信任和透明度是基石,这个案例尤其具有教育意义:去中心化的内容验证系统本可以成为解决方案,但眼下市场只能看着即使是巨头也在平坦地面上绊倒。

我的结论:仓促上线和审核薄弱表明,AI部署的竞赛正在超越责任机制的发展。在这些工具通过独立审计并获得内置验证“水印”之前,在真实事件背景下不能信任它们。