近期，东北证券发布的一份研究报告指出，生成式人工智能技术在网络安全领域的影响复杂多面，既展现出强大的赋能潜力，也带来了新的安全挑战。报告强调，随着全球AI安全市场的迅速扩张，预计到2030年，该市场规模将达到1340亿美元，复合年均增长率高达27.6%。这一趋势预示着AI大模型安全监测评估产品将迎来前所未有的发展机遇。
研究详细阐述了“AI+安全”的三大核心领域：AI赋能网络安全、AI内生安全以及AI衍生安全。以ChatGPT为例，这类生成式AI技术一方面能够显著增强网络安全的防护能力，通过智能分析提升风险检测的精准度和效率；另一方面，其滥用和新技术本身的脆弱性也引发了新的安全风险，对国家、社会和个人构成了潜在威胁。
在赋能传统网络安全产品方面，AI展现出巨大潜力。据统计预测，未来几年，AI将深度融入恶意软件检测、攻击流量分析、用户行为监控等多个安全领域，同时推动数据安全和防火墙技术的革新。特别是在网络安全运营中，AI大模型在告警处理、攻击研判和自动化响应方面的应用，极大地提升了运营效率，成为安全行业转型升级的关键。
报告进一步指出，AI内生安全构成了网络安全的新赛道。AI模型、数据和承载系统的安全性问题不容忽视。模型训练与测试的完整性、鲁棒性，数据隐私保护，以及硬件与软件系统的安全，都是AI内生安全需要关注的关键点。这些问题不仅威胁到AI技术的可靠性，还直接影响到其在实际应用中的安全性。
随着AI技术的广泛应用，衍生的安全问题也日益凸显。人工智能系统的脆弱性被利用，可能引发安全事故、滥用风险乃至国际军备竞赛等严重后果。为此，各国纷纷出台监管政策，加强对AI的合规管理。我国也不例外，发布了多项管理办法，旨在从风险防范、应对和管理三个方面，确保AI技术的健康发展。
