天眼查App最新信息显示,华为技术有限公司在机器学习技术领域取得了一项新进展,其申请的“AI模型的运行方法、装置、程序产品和存储介质”专利已正式对外公布。
据专利摘要介绍,该技术方案主要应用于配备有处理器且连接计算卡的主机环境。其核心在于,处理器能够智能识别AI模型在连续训练过程中,相邻两组输入数据之间的差异,特别是那些仅存在于后续训练数据组(第二数据组)而不在前一组(第一数据组)中的数据,即第一数据。
在具体操作中,系统会先将这些第一数据对应的第一嵌入向量预先加载到处理器的第一内存中。随后,通过确定第一嵌入向量的相关信息,系统能够在第二数据组于计算卡上进行计算处理的同时,根据这些信息将第一嵌入向量从处理器的第一内存高效地预取至计算卡的第二内存。
这一创新方法的实施,有效降低了因嵌入向量在处理器与计算卡间频繁搬运而产生的处理延迟,从而提升了AI模型的整体运行效率。