中国信息通信研究院（中国信通院）近期完成了可信AI框架下的《大模型推理平台通用能力成熟度》首轮评估工作，这一举动标志着国内大模型推理平台能力的标准化评估迈出了重要一步。
在这场备受瞩目的评估中，商汤大装置的万象大模型开发平台脱颖而出，荣获当前最高评级——4+级，成为国内首家达到此高度的平台。这一成就不仅彰显了商汤在大模型推理技术上的深厚积累，也预示着国内AI大模型应用的新里程碑。
中国信通院携手七十多家单位，依托人工智能关键技术和应用评测重点实验室及中国人工智能产业发展联盟AI Infra工作组，共同制定了《大模型推理平台技术要求》标准。此次评估正是基于这一标准展开，覆盖功能、性能、稳定性等多个维度，特别是针对部署、推理、服务与管理等关键环节，旨在推动大模型推理平台向低时延、高吞吐、可扩展、高易用、低成本方向发展。评估内容细致入微，共涉及88个能力项，其中基本功能34项，高级功能54项。
评估结果显示，商汤大装置的万象大模型开发平台在模型部署、推理、服务等多个方面均表现卓越。该平台不仅提供高性价比、灵活易用的服务，还集成了前沿的模型、算法、推理引擎、知识库等套件，为开发者构建行业模型及应用提供了强有力的支持。万象平台的全链条开发工具，从大模型开发到应用构建一应俱全，为企业大模型的落地提供了一站式高效服务。
万象平台在硬件兼容性方面也表现出色，能够兼容GPU、NPU等多种异构推理加速卡。其内置的自研高效推理引擎，更是将推理成本降低了50%以上。平台还配备了完整的安全机制，确保企业大模型在落地过程中的安全性。
目前，商汤大装置的万象大模型开发平台已在交通、消费、政务、自动驾驶、智能家居、医疗等多个行业广泛应用，展现了其强大的跨行业适应能力。在交通领域，万象平台助力某客户构建了工程勘察设计领域的智能平台，有效解决了知识传承困难、融合性差等问题。在消费领域，通过万象平台的调用大模型、检索增强生成技术等，某企业成功提升了员工的知识获取效率。而在政务领域，万象平台及其配套服务大大简化了部署工程，实现了企业的开箱即用。
国际数据公司（IDC）在近期发布的《中国模型即服务(MaaS)及AI大模型解决方案市场追踪（2024H2）》报告中指出，商汤大装置的万象平台凭借13%的市场份额，稳居国内AI大模型解决方案市场第二位，再次彰显了其在行业内的领先地位。
