百度于近日隆重推出了其最新的文心大模型4.5系列,此次开源涵盖了10款模型,其中亮点包括拥有47B和3B激活参数的混合专家模型(MoE),以及参数量为0.3B的稠密型模型。这一举措不仅意味着开发者可以免费获取这些高性能模型,百度还贴心地提供了预训练权重和推理代码,极大地方便了开发者的应用探索。
在文心大模型4.5系列发布的同一天,英特尔也迅速展示了其强大的技术支持实力。通过OpenVINO工具套件,英特尔迅速完成了对文心大模型端侧版本的适配,并在酷睿 Ultra平台上成功实现了部署。OpenVINO作为英特尔自主研发的开源工具,专注于提升深度学习模型的推理性能,实现跨平台部署,并能充分利用英特尔硬件资源。
回顾过去,自2021年起,百度飞桨团队与英特尔OpenVINO团队已建立了深厚的合作关系。双方携手对多个模型进行了适配,涵盖了PaddleOCR、PaddleSeg和PaddleDetection等。这一合作成果使得开发者能够轻松地将飞桨模型通过OpenVINO进行推理和部署,甚至还能借助OpenVINO的模型优化器将模型转换为IR格式,进一步提升部署效果。
文心大模型4.5系列的发布,标志着百度在多模态理解、文本生成和逻辑推理等领域取得了又一里程碑式的突破。这一系列模型的表现在多项测试中甚至超越了GPT4.5,而API调用的成本却仅为后者的百分之一。这无疑为希望将AI技术融入各类产品和服务的开发者提供了一个极具吸引力的新选择。