ITBear旗下自媒体矩阵:

英特尔LLM-Scaler1.0容器发布,专为Arc B系列显卡AI推理性能优化

   时间:2025-08-12 12:38:44 来源:ITBEAR编辑:快讯团队 IP:北京 发表评论无障碍通道
 

英特尔近期在AI推理技术领域迈出了重要一步,正式推出了LLM-Scaler1.0容器,专为优化其Arc B系列显卡的性能而设计。这一举措紧随其在今年5月宣布的“战斗矩阵”项目之后,该项目旨在通过支持最多八块Intel Arc Pro GPU,为AI推理提供强大支持。

据英特尔介绍,“战斗矩阵”项目自启动以来,便致力于引入包括SR-IOV支持、vLLM性能改进在内的多项新功能,旨在第三季度实现产品可用,并在年底前达成全面功能部署。而此次LLM-Scaler1.0容器的发布,标志着英特尔在推进这一计划上取得了实质性进展。

LLM-Scaler1.0容器被精心打造为Linux环境下的解决方案,其核心竞争力在于卓越的推理性能优化、多GPU扩展能力以及PCIe点对点数据传输支持。该容器还融入了企业级特性,如ECC、SR-IOV、遥测和远程固件更新,以确保系统的可靠性和可管理性。

新版本不仅整合了vLLM性能优化和新功能,还增强了对多模态模型的支持。同时,LLM-Scaler1.0容器还集成了oneCCL基准支持和XPU管理器,为用户提供了更为便捷的GPU遥测功能,以及其他多项增强功能。

英特尔在官方公告中透露,他们正在紧锣密鼓地开发更为稳固的LLM Scaler版本,并计划在未来推出更多新功能。预计这些更新将在第三季度结束前完成,而全面功能的发布则依旧安排在第四季度进行。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version