ITBear旗下自媒体矩阵:

华为再获新突破:AI模型运行相关专利正式对外公布

   时间:2025-09-06 00:42:11 来源:ITBEAR编辑:快讯团队 IP:北京 发表评论无障碍通道
 

据天眼查信息显示,华为技术有限公司近期在人工智能领域取得重要进展。9月5日,该公司申请的一项名为"AI模型的运行方法、装置、程序产品和存储介质"的专利正式对外公布,这项创新技术有望显著提升AI模型的运行效率。

专利技术示意图1

该专利技术属于机器学习技术领域,主要针对AI模型运行过程中存在的数据搬运延迟问题提出解决方案。根据专利摘要,华为研发的这套方法通过优化数据处理流程,有效减少了嵌入向量在传输过程中产生的处理延时,从而提升整体运算效率。

具体而言,这项技术应用于配备处理器的主机系统,该系统同时连接有计算卡。在处理AI模型时,系统会先识别相邻两组输入数据中的差异部分——即在后续数据组中出现但未在前序数据组中出现的特定数据。随后,系统会将这些差异数据对应的嵌入向量预先加载到处理器的内存中。

技术实施的关键在于双重预取机制:首先将识别出的差异数据对应的嵌入向量预存至处理器内存,同时记录这些向量的相关信息;然后在后续数据组由计算卡处理的过程中,系统会根据预先记录的信息,将这些嵌入向量从处理器内存快速传输至计算卡的专用内存。这种分层预取的方式显著优化了数据处理流程。

专利技术示意图2

行业专家指出,嵌入向量的传输效率直接影响AI模型的运算速度。华为这项专利通过创新的预取机制,减少了数据处理过程中的等待时间,特别适用于需要处理大规模数据集的深度学习场景。这种技术优化对于提升实时AI应用的响应速度具有重要意义。

据天眼查信息显示,华为近年来持续加大在人工智能领域的研发投入,已累计申请多项相关专利。此次公布的专利技术体现了该公司在AI硬件协同优化方面的最新成果,有望为智能计算领域带来新的技术突破。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version