17173 > 游戏资讯 > 科技新闻 > 正文

英伟达开源发布 PAIR:本地跑 AI 新方案,调度 Mac / RTX PC 跨设备推理

2026-09-04 08:03:40 神评论
17173 新闻导语

英伟达开源PAIR,调度Mac/RTX PC跨设备跑AI,本地推理效率翻倍,抢先体验智能调度新方案!

9 月 4 日消息,科技媒体 AppleInsider 昨日(9 月 3 日)发布博文,报道称英伟达以开源测试版状态,推出 Personal AI Router(PAIR)软件,用于在局域网内为本地 AI 请求选择可用计算机,类似把任务分派给空闲工位的调度员。

在兼容设备上,该软件可以在 M4 以及更高的 Mac 设备、英伟达 RTX PC 和 DGX Spark 设备上运行,为 Ollama、LM Studio 等本地 AI 工具提供统一请求入口。用户可在家庭或办公局域网内,将多个独立 AI 请求调度至空闲设备处理。附上相关截图如下:

产品定位方面,英伟达将 PAIR 定位为局域网内的本地 AI 请求调度软件,能自动发现已加入的电脑,并将每项请求分配给可用设备。模型仍由目标设备上的 Ollama 或 LM Studio 运行,因此用户不必为每款 AI 应用分别配置每一台机器。

在某台设备繁忙或不可用后,PAIR 可把新请求转向其他已配对设备。例如,AI 智能体同时审阅多份文档时,可将彼此独立的任务分别交给不同计算机处理。该机制面向并发负载分担,并不意味着单个 AI 回复会因加入更多电脑而自动变快。

英伟达演示显示,在 Hermes 中使用 Ollama 与 Qwen 3.6 35B A3B 模型,将任务拆分给 5 个 AI 子智能体后,RTX Spark 笔记本单机平均完成时间为 18 分钟;加入 DGX Spark 和 RTX 5090 后,平均时间为 8 分 48 秒。

【来源:IT之家】
关于英伟达,PAIR,本地AI,调度,RTX,Mac,DGX Spark,Ollama,LM Studio,开源的新闻
17173想了解一下大家怎么看17173的,以便提供更好的阅读体验,所以请各位路过的大佬们花一分钟时间看看这个问卷吧 一键参与