谷歌近日披露，其人工智能聊天机器人Gemini正面临大规模“蒸馏攻击”的威胁。攻击者通过反复提出相似问题，试图诱导模型暴露内部运作逻辑，甚至克隆其核心技术或强化自身AI系统。据谷歌统计，某次攻击活动中，Gemini在短时间内被输入超过10万次提示，显示出攻击行为的系统性和持续性。
谷歌安全团队将当前处境比作“煤矿里的金丝雀”，暗示大型平台的遭遇可能预示整个行业即将面临更广泛的威胁。首席分析师约翰·霍特奎斯特表示，随着企业定制化AI工具的普及，蒸馏攻击的潜在危害将进一步扩大。他特别指出，若企业训练的模型包含百年交易数据或核心决策逻辑，攻击者可能通过逐步提取信息，窃取关键商业秘密。
目前，主流科技公司已部署防御机制识别可疑提问模式，但由于大语言模型需向公众开放服务，其本质仍存在安全漏洞。谷歌透露，多数攻击目标集中在Gemini的“推理算法”层面，即模型处理信息并做出决策的核心机制。霍特奎斯特警告，当定制化模型开始承载敏感业务数据时，蒸馏攻击的破坏力将呈指数级增长，行业需尽快建立更完善的防护标准。
