随着人工智能技术的飞速发展，AI大模型正以前所未有的速度渗透到各行各业，成为人们工作生活中不可或缺的“数字助手”。然而，这项技术带来的便利背后，也潜藏着不容忽视的数据安全风险。近期国家安全部门披露的典型案例，为公众敲响了警钟。
某单位工作人员在处理内部文件时，违规使用开源AI工具进行文本分析。由于电脑系统默认开启公网访问权限且未设置密码保护，导致存储在设备中的敏感资料被境外IP地址非法访问并下载。这一事件暴露出开源框架大模型在联网环境下存在的重大安全隐患。
据网络安全专家介绍，开源大模型是指将模型架构、参数及训练数据完全公开供免费使用的人工智能系统。这类模型在互联网上种类繁多，功能各异：有的擅长逻辑推理，有的精通代码编写，有的专长文本处理，还有的能够分析医学影像。例如，用户上传体检报告后，模型可自动识别异常指标并提供健康建议。
中国网络空间安全协会专家王媛媛指出，数据存储机制是开源大模型的核心工作原理，但这也成为其最大的安全漏洞。当用户上传文件或图片时，系统会自动保存这些数据以便进行分析处理。若涉及企业机密或个人隐私信息，就相当于主动将数据暴露在开放网络环境中。
数据泄露风险主要来自两个方面：一是模型开发者本身具有数据访问权限，可能通过后台查看用户上传内容；二是开源代码存在的技术漏洞可能被黑客利用，通过攻击模型服务器获取存储数据。某安全团队演示显示，攻击者仅需利用系统未修复的漏洞，即可在数分钟内提取模型数据库中的全部敏感信息。
针对日益严峻的安全形势，专家建议普通用户应避免在开源AI平台上传身份证号、银行账户、健康档案等敏感信息。企业用户若需使用大模型处理业务数据，必须采用私有化部署方案，将所有计算过程限制在内部网络环境，并配备专业团队进行安全维护。虽然这种方案需要投入更多基础设施成本，但能有效阻断数据外泄途径。
当前，我国已出台多项人工智能安全治理规范，要求开发者在模型设计阶段就嵌入数据加密、访问控制等安全机制。网络安全部门将持续加强对开源项目的审查力度，定期通报高危漏洞信息，督促相关平台及时修复系统缺陷。
