英伟达以开源测试版形式推出 Personal AI Router(PAIR)软件,用于在局域网内为本地 AI 请求选择可用计算机。该软件可在 M4 及更高版本的 Mac、英伟达 RTX PC 和 DGX Spark 设备上运行,为 Ollama、LM Studio 等本地 AI 工具提供统一请求入口。
PAIR 能自动发现已加入的电脑,并将每项请求分配给可用设备,模型仍由目标设备上的 Ollama 或 LM Studio 运行。当某台设备繁忙或不可用时,PAIR 可将新请求转向其他已配对设备,适合 AI 智能体同时处理多份文档等并发场景。
英伟达演示显示,在 Hermes 中使用 Ollama 与 Qwen 3.6 35B A3B 模型,将任务拆分给 5 个 AI 子智能体后,RTX Spark 笔记本单机平均完成时间为 18 分钟;加入 DGX Spark 和 RTX 5090 后,平均时间降至 8 分 48 秒。该机制旨在分担并发负载,而非加速单个 AI 回复。
评论
正在加载评论…