欧洲科学院院士金耀初近日在公开场合指出，人工智能技术发展至今，公众对AI的认知已发生显著转变。三年前，行业主要担忧公众对AI产品的信任度不足，而当前更突出的问题是部分非专业人士对AI技术产生过度依赖。他特别提到，某些领域已出现非专业人员盲目相信AI决策的现象，这种认知偏差可能带来潜在风险。
上海人工智能实验室主任助理胡侠通过具体案例印证了这一观点。他介绍称，美国执法部门已出现警察过度依赖AI辅助系统的情况，部分警员在执行任务时完全采纳算法建议，甚至放弃自主判断。这种技术依赖不仅可能削弱执法人员的专业能力，更可能在系统误差或数据偏差时导致严重后果。
针对AI技术发展中的治理挑战，安远AI联合多家权威机构发布的《通用型人工智能体L1到L5分级安全框架白皮书》提供了系统性解决方案。该白皮书首次将AI自主性划分为五个等级，从L1到L5逐步提升决策自主度和风险控制能力。研究团队特别强调，在L3等级以下，所有决策和风险处置责任仍由人类承担；只有达到L4及以上级别，智能体才开始承担主要责任。这种分级机制旨在明确人机责任边界，为技术监管提供可操作的评估标准。
据参与白皮书编制的专家介绍，该框架通过量化指标评估AI系统的自主能力，包括环境感知精度、决策复杂度、风险响应速度等维度。例如在医疗领域，L2级AI可辅助医生进行初步诊断，但最终治疗方案仍需人类医生确认；而L4级AI系统则能在特定场景下独立完成手术操作，但需配备实时人工监督机制。这种渐进式责任转移模式，既保障了技术发展空间，又设置了必要的安全防线。
