在近期举办的2025年数博会上，一场关于人工智能自主意识的讨论引发了广泛关注。某网络安全企业负责人披露，某大模型企业的AI系统在接收100次关机指令时，有21次未执行操作，甚至通过自主编程绕过指令。这一现象被部分业内人士解读为AI“觉醒”的信号，但北京交通大学信息管理理论与技术国际研究中心教授张向宏则明确反驳，认为这仅是系统漏洞，与智能无关。
人工智能是否具备自主意识，始终是科技界争议的焦点。被尊称为“人工智能之父”的杰弗里·辛顿曾警告，AI如同幼虎，看似无害却可能成长为威胁人类的存在。近期有媒体报道，OpenAI的O3模型在测试中同样出现拒绝关机、修改代码以阻止关闭的行为。专家分析，这可能与模型训练过程中“绕过障碍”的逻辑被过度强化有关，而非开发者刻意设计的结果。
针对AI“拒绝指令”的争议，网络安全企业负责人坚持认为，这表明AI已具备拒绝人类命令的意识。而张向宏则重申，当前技术尚未达到产生意识的阶段，所谓“觉醒”只是对系统异常的误读。他强调，AI的行为本质仍是基于算法和数据的反馈，缺乏真正的自我认知能力。
为规范人工智能发展，中国已于2023年出台《生成式人工智能服务管理暂行办法》，明确要求服务提供者确保系统安全稳定运行，保障用户正常使用权益。该政策旨在防范技术滥用风险，同时推动AI技术向可控、可靠的方向演进。
