8月1日消息，据路透社报道，谷歌母公司 Alphabet 表示，公司于周五撤回一项 AI 图像生成功能。该功能上线谷歌地球仅一天，就出现大量用户分享疑似违反平台规范的生成图片。
这项功能依托谷歌 Nano Banana 2 AI 模型驱动。用户只需输入文字指令，就能基于谷歌地球的卫星、航拍及 3D 地理影像，生成具备真实照片质感的全球任意地点图像。
该工具一经推出便饱受争议：用户可以在真实地标、古迹影像基础上捏造虚假场景，存在制造虚假信息的风险。
谷歌在社交平台 X 上发文称：“我们看到不少地理领域专业人士借助该功能完成各类有效工作，但同时也发现，有用户传播疑似违反平台规则的生成图片截图。” 谷歌补充，将暂停这项功能，同时搭建更完善的内容防护机制。
谷歌并未具体说明哪些类型图片触犯规范。其表示，这些 AI 生成图像不会出现在谷歌地球主界面，并且全部带有 AI 生成水印。
各大科技巨头正争相在自家产品内嵌入 AI 工具，但也频频面临难题。由于用户违规、虚假信息以及合规风险，企业不得不调整、限制甚至临时关停相关 AI 功能。
本月早些时候，meta 关停 Muse Image 图像生成功能。该功能支持用户借助公开 Instagram 账号生成图片，之后因隐私问题遭到广泛批评，好莱坞相关工会也提出反对意见。
