谷歌公司近日披露，其旗下AI聊天机器人Gemini正面临一场大规模的“蒸馏攻击”威胁。攻击者通过高频次、重复性的提问，试图解析该模型的输出逻辑与内部机制，甚至企图“克隆”其核心技术或强化自身AI系统。据谷歌统计，仅某一场攻击活动中，Gemini就遭遇了超过10万次恶意提示。
霍特奎斯特将谷歌的处境比作“煤矿里的金丝雀”，暗示大型AI平台遭遇的攻击可能预示着整个行业面临更广泛的风险。他特别提到，随着企业定制化大语言模型（LLM）的普及，蒸馏攻击的危害将进一步扩大。例如，若某企业的LLM学习了其百年交易策略，攻击者可能通过逐步提问提取这些敏感商业机密。
谷歌强调，蒸馏攻击本质上属于知识产权盗窃行为。科技公司为开发AI聊天机器人投入了数十亿美元，其核心模型的内部机制被视为高度保密的专有资产。尽管主流AI服务提供商已部署防御机制，但由于模型需向公众开放使用，仍难以完全规避此类风险。
据谷歌披露，多数攻击目标集中在Gemini的“推理”算法——即模型处理信息并做出决策的机制。分析人士警告，随着定制化LLM在金融、医疗等领域的广泛应用，攻击者可能通过蒸馏手段获取用户隐私数据或商业策略，引发更严重的安全危机。
