近期，人工智能（AI）领域的数据污染问题引发了广泛关注。一系列事件揭示了AI在处理和生成信息时可能存在的风险，这些风险不仅关乎技术准确性，更触及到社会舆论、经济金融乃至国家安全等多个层面。
据报道，宁波发生的两起无关事件被AI错误地关联在一起，这一荒谬的关联迅速在网络上发酵，凸显了AI在处理敏感信息时的脆弱性。类似地，去年某款儿童手表在面对特定问题时，给出了否定中国发明与文化的回答，这一极端回答不仅在网络上掀起轩然大波，也促使公众开始深入思考AI数据污染的问题。
AI杜撰信息的现象日益严重，从虚构论文到编造谣言，AI在某些情况下甚至成为了谣言的传播者。这些事件背后，暴露的是AI模型在训练过程中可能因数据污染而产生错误决策的风险。如果把AI比作食物，那么训练数据就是食材，一旦食材变质，最终生产出来的食物自然也会有问题。
在人工智能的三大核心要素——算法、算力和数据中，数据作为训练AI模型的基础，其重要性不言而喻。然而，一旦数据受到污染，就可能导致模型决策失误，甚至整个AI系统失效，从而带来安全隐患。国家安全部门也发出提醒，通过篡改、虚构和重复等“数据投毒”行为产生的污染数据，将严重干扰AI模型的训练过程，降低其准确性，甚至可能引发有害输出。
国家安全部数据显示，即使在AI训练过程中仅有0.001%的虚假文本被采用，其有害输出也会相应上升7.2%。这一数据表明，即使是微量的污染数据也可能对AI模型产生显著影响。专家指出，被污染的数据往往具有与其他数据不同的观点和内容，这可能导致AI错误地将污染数据视为有特点、高信息量的内容，并在算力中增加其使用比例。
AI数据污染在金融、公共安全等领域可能引发一系列现实风险。在经济金融领域，数据污染可能导致市场行为分析、信用风险评估、异常交易监控等工作出现判断和决策失误，进而造成经济损失。在社会舆论方面，数据污染会破坏信息的真实性，使民众难以辨别信息真伪，从而可能引发社会舆论风险。
针对AI数据污染问题，从国家安全层面出发，应加强源头监管，防范污染生成。制定明确的数据采集规范，使用安全可信的数据源，构建数据标签体系，并采取严格的访问控制和审计等安全措施。同时，可以结合自动化工具、人工审查以及AI算法等方式，对数据的不一致性、格式错误、语法语义冲突等问题进行分析和处理。还应定期依据法规标准清洗修复受污数据，逐步构建模块化、可监测、可扩展的数据治理框架，以实现持续管理与质量把控。
