英伟达开源发布PAIR:本地跑AI调度MacRTX PC跨设备推理

发布时间:2026-09-04 08:45

  在兼容设备上,该软件可以在 M4 以及更高的 Mac 设备、英伟达 RTX PC 和 DGX Spark 设备上运行,为 Ollama、LM Studio 等本地 AI 工具提供统一请求入口。用户可在家庭或办公局域网内,将多个独立 AI 请求调度至空闲设备处理。附上相关如下:

  产品定位方面,英伟达将 PAIR 定位为局域网内的本地 AI 请求调度软件,能自动发现已加入的电脑,并将每项请求分配给可用设备。模型仍由目标设备上的 Ollama 或 LM Studio 运行,因此用户不必为每款 AI 应用分别配置每一台机器。

  在某台设备繁忙或不可用后,PAIR 可把新请求转向其他已配对设备。例如,AI 智能体同时审阅多份文档时,可将彼此独立的任务分别交给不同计算机处理。该机制面向并发负载分担,并不意味着单个 AI 回复会因加入更多电脑而自动变快。

排行

精选