英伟达PAIR让家中电脑组成本地AI集群

你是否发现,AI现在像个操心的”大管家”,什么事都想替你了。

但在办之前,它得先把事情拆开——查资料、算数据、写邮件、做表格,拆成一大堆小活,再派给一群”数字小帮手”同时干。

问题就出在这:这些活,最后全挤在你这一台电脑上。

GPU就一块,任务排队,慢得你直抓狂。而旁边那台只有打游戏才开的电脑,显卡明明闲着,却一点忙都帮不上。

英伟达看不下去了。

9月3日,柏林IFA展,英伟达发布了一个叫PAIR的工具——全称Personal AI Router,个人AI路由器。

名字看着唬人。其实它不是硬件,而是一套免费、开源的小软件。装在你家每台电脑上,它就能把大家手头的显卡”撮合”到一块儿干活。

怎么个撮合法?你跑AI任务时,它自动在旁边”查岗”:哪台机器闲着、显卡有空,任务就派过去,算完再把结果传回来。

英伟达自己跑了组测试:同一批多智能体任务,一台电脑单干要18分钟;拉上三台机器一起干,8分48秒收工,接近快了一倍。

它并不是想把几块显卡拼成一台”巨无霸”。逻辑其实特别朴素——任务本来就能拆成好几个小活,那就一人干一个、各干各的,别全堵在一台机器上排队。

它还很懂分寸。你正在打游戏的那台机器,它坚决不碰、不占资源,任务会自动绕开。

几个硬信息,帮你省着查:

搭配 Ollama、LM Studio 这两款主流本地AI工具就能用,装好即上手,不用改一行代码;
支持 RTX 20系及以上的 NVIDIA 显卡、RTX PRO 专业卡、DGX Spark,还有苹果 M4 芯片以上的 Mac;
设备之间加密通信、带配对码确认,不担心被”乱入”;
最关键的一点:数据全程留在你家内网,不往云端传。

英伟达还算了笔账。一个普通家庭,电脑平均一天只用四个小时,剩下二十个小时全在吃灰。把这些闲置算力真正跑起来,一个月最多能省下折合人民币八九千的云端AI费用。

说实话,这一手比”又发了新模型”有意思多了。

它背后的信号是:AI的竞争,已经开始从云端卷到你家客厅。

大厂拼算力、建数据中心,那是他们的擂台。而普通人手里这台老显卡、旧电脑,正在被一点点”唤醒”。今天是把家里几台电脑连起来,明天呢?

AI不再是屏幕里高不可攀的新名词,它正往你身边、往你家里、往你桌面上渗。

老黄这波操作,又一次说明:真正懂”不让算力闲着”的,还得是卖显卡的。