随着2025年春季的到来,国内大模型技术如DeepSeek正迅速渗透至各行各业的应用场景中,推动企业级AI私有化部署迈向新高度。为了深入了解当前大模型在企业用户中的部署需求及现状,特别是针对云化部署的实际需求,工业和信息化部云计算标准与应用重点实验室联合全国信标委云计算和分布式平台分委会云建设与应用标准工作组,携手云轴科技ZStack,共同发起了一项企业级私有化大模型应用现状与私有化部署需求的专项调研。
该调研自启动以来,受到了全国范围内企业的积极响应,截至3月底,已收集超过400份有效问卷,覆盖了制造、教育科研、医疗健康、金融、信息技术、交通运输、公共事业、传媒、能源等多个行业。工作组还举办了专题研讨会,邀请了多位行业专家,围绕大模型私有化部署的技术挑战、应用场景及未来发展等话题进行了深入探讨。
调研数据显示,自DeepSeek开源大模型引起市场广泛关注以来,企业对于私有化部署的意愿显著提升,从最初的33.25%跃升至88.75%。这一转变主要受到数据隐私保护和成本降低两大因素的驱动,促使各行各业加速布局AI技术。然而,调研也揭示了大模型企业私有化部署面临的主要挑战,包括算力资源调度与多种模型管理,以及标准制定、国内硬件与智算云平台的选择。
在参与调研的企业中,500人以上的大型企业占比达到57.70%,显示出对大模型私有化部署的浓厚兴趣。同时,201-500人和200人以下的中小型企业占比也超过40%,反映出大模型私有化部署需求在中小企业中逐渐显现。从行业分布来看,制造、信息技术、教育科研、医疗健康、金融五大行业占比高达72.74%,不同行业对大模型私有化部署的需求呈现出差异化特点。
在技术挑战方面,企业普遍面临技术能力不足、投入成本较高以及管理平台缺失三大问题。特别是在算力管理、模型管理和运营管理方面,企业需要实现异构硬件的高效调度、提升资源利用率,以及对多种模型的全生命周期管理,以满足AI应用的落地需求。针对DeepSeek的私有化部署,企业反映的主要难点集中在算力管理、模型管理和运维管理等方面。
在专家观点环节,来自上海市闵行区数据局、中电工程顾问集团、中粮信科运维中心、天府绛溪实验室、东方明珠新媒体股份有限公司、中国科学院计算技术研究所、中石油集团东方地球物理勘探有限公司、中国中医科学院西苑医院、国家图书馆、国任财产保险股份有限公司、中国建设银行运营数据中心、中国农业农村部信息中心以及中国电子技术标准化研究院的专家纷纷发表了自己的看法。
上海市闵行区数据局局长吴畯表示,区数据局正积极探索大模型技术在政务服务领域和城市治理的应用场景,通过构建数字生态联盟,促进资源共享与优势互补,推动区域数字经济高质量发展。中电工程顾问集团的王灿则认为,在电力工程设计行业,人工智能与传统设计工具的融合是刚需,但需要深入理解各类人工智能路线和需求是否适配。
中粮信科运维中心的王龙军指出,持续量化应用价值如同在迷雾中找路标,供应链优化、多模型混合管理、数据治理将成为大模型企业应用的长远命题。天府绛溪实验室的吴怀谷副主任则介绍了实验室在打造新一代多模态泛在智能基础平台方面的研究成果,以及为专业行业用户提供智能知识问答、精准意图理解等服务的“智能大装置”。
东方明珠新媒体股份有限公司云计算研究院的陆趣副总经理分享了公司通过生成式人工智能媒体融合创新平台对不同类型大模型进行生命周期管理的经验,以及AIGC内容生产工具、AI客户服务平台等在不同场景下的应用。中国科学院计算技术研究所的王煜炜高级工程师则强调了科研需求多样化带来的挑战,以及从国标制定者视角重构智算标准的重要性。
中石油集团东方地球物理勘探有限公司的赖能和总工程师、中国中医科学院西苑医院的陈海强信息管理中心主任、国家图书馆的谢强主任、国任财产保险股份有限公司的叶进团队经理、中国建设银行的申文武以及中国农业农村部信息中心的吴疆副处长等专家也分别就各自领域的AI应用现状和挑战发表了观点。