ITBear旗下自媒体矩阵:

英伟达开源PAIR软件:局域网内跨设备调度 助力本地AI高效处理请求

   时间:2026-09-04 11:21:17 来源:快讯编辑:快讯 IP:北京 发表评论无障碍通道
 

科技领域再添创新成果,英伟达近日以开源测试版形式推出了一款名为Personal AI Router(PAIR)的软件。这款软件专为局域网内的本地AI请求调度而设计,其作用类似于在办公场景中把任务分派给空闲工位的调度员,能在局域网内为本地AI请求精准挑选可用的计算机。

从兼容性来看,PAIR软件有着较为广泛的适用范围。它可以在M4及以上版本的Mac设备、英伟达RTX PC以及DGX Spark设备上稳定运行。并且,它为Ollama、LM Studio等本地AI工具搭建了一个统一的请求入口。这意味着在家庭或办公的局域网环境中,用户可以将多个独立的AI请求合理调度至空闲设备进行处理,极大地提高了设备资源的利用率。

在产品定位上,英伟达明确将PAIR定位为局域网内的本地AI请求调度软件。它具备自动发现已加入电脑的能力,能够根据每项请求的具体情况,将其精准分配给可用的设备。值得注意的是,模型依旧由目标设备上的Ollama或LM Studio来运行,如此一来,用户就无需为每一款AI应用分别对每一台机器进行繁琐的配置,大大简化了操作流程。

当某台设备处于繁忙状态或者不可用时,PAIR软件会展现出其强大的调度能力。它能够迅速把新的请求转向其他已经配对好的设备。以AI智能体同时审阅多份文档为例,彼此独立的任务可以分别交给不同的计算机来处理。不过需要明确的是,这种机制主要是面向并发负载分担,并非意味着单个AI回复会因为加入了更多电脑而自动加快速度。

英伟达的演示数据充分展示了PAIR软件的实际效果。在Hermes中使用Ollama与Qwen 3.6 35B A3B模型,将任务拆分给5个AI子智能体后,RTX Spark笔记本单机平均完成时间需要18分钟;而在加入DGX Spark和RTX 5090后,平均时间缩短至8分48秒,效率提升显著。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version