在科技飞速发展的当下，人工智能已深度融入社会各个层面。从辅助医生精准分析医学影像，到助力科学家在未知领域开拓探索，再到逐步渗透至制造、金融、教育等众多行业，人工智能的应用场景不断拓展，展现出巨大的发展潜力。
近期，2026世界人工智能大会在上海盛大举行。此次大会吸引了来自全球多个国家和国际组织的代表齐聚一堂，共同聚焦人工智能发展的未来走向。在人工智能蓬勃发展的同时，一系列新问题也随之浮现，数据安全、算法治理以及伦理风险等成为全球共同关注的焦点。如何推动人工智能持续创新发展，怎样让AI更加安全、可靠且普惠，成为本次大会探讨的重要议题。
如今，人工智能正从技术探索迈向规模化应用阶段，从单纯“回答问题”的大模型，逐步走进医疗、工业、科研等更多真实场景。上海市人工智能行业协会秘书长钟俊浩以交通作比，形象地解释了全球治理的必要性：“就像交通需要制定规则以实现更高效、协同的发展一样，人工智能也需要规则来保障其健康发展。”
上海交通大学上海高级金融学院实践教授胡捷深入剖析了当前人工智能治理面临的三大风险。其一，大模型基于概率逻辑运行，训练素材的差异以及随机性可能导致其可信度存疑，甚至出现价值观偏差；其二，在强大算力的支持下，AI的能力迅速提升，如同从普通炸弹升级为原子弹，带来质的飞跃；其三，人机协同过程中可能衍生出新的风险。这三方面问题相互交织，使得安全问题成为重中之重。
钟俊浩强调，人工智能技术迭代速度极快，过去“先创新、后规范”的模式已不再适用。如今，技术每前进一步，治理手段就必须及时跟进。尤其当AI通过具身智能进入物理世界后，一旦出现问题，影响范围可能从个体扩大至大群体乃至全球，因此必须提前做好预防工作。
胡捷指出，人工智能治理与互联网治理存在本质区别。互联网时代治理主要针对人，而如今不仅要治理人的问题，还要应对“智能体”带来的挑战。更为关键的是，AI造成的许多影响具有不可逆性，这给治理带来了全新挑战，需要重新梳理治理思路。
以医疗领域为例，AI影响的不可逆性尤为明显。钟俊浩介绍，上海已建立一套完善的机制。机器人手术精度虽高于人工，但背后的模型必须经过严格精准评测。在实际应用中，实行分级分类管理，对于对病患危害度低且普适性强的应用，迅速推广使用；同时建立独立的监测体系，确保全过程可追溯，以便在出现问题时能迅速定位环节。
胡捷认为，面对不同行业和场景，风险和责任界定应有所差异。随着技术不断进步，风险状况也会发生变化，因此需要相应调整风控方案。因地制宜、因行制宜，针对不同场景制定相应的风控方案和法律责任区分，是推动人工智能健康发展的必然要求。
