Inferenze più rapide, e senza usare il cloud.
[ZEUS News - www.zeusnews.it - 04-09-2026]

Per gli appassionati di IA e LLM eseguiti in locale, NVIDIA ha presentato PAIR, un sistema che permette di distribuire le richieste di inferenza dell'intelligenza artificiale tra più computer presenti nella stessa rete domestica, trasformando i PC da gaming e le workstation in nodi cooperativi capaci di accelerare l'esecuzione locale dei modelli. L'iniziativa, annunciata in occasione di IFA 2026, segna un passo avanti nella strategia dell'azienda per portare l'IA generativa più vicino all'utente, riducendo la dipendenza dal cloud e migliorando le prestazioni dei carichi multi‑agente.
PAIR, acronimo di Personal AI Router, è un software open source progettato per instradare automaticamente le richieste di inferenza verso i sistemi disponibili nella rete locale. Il principio di funzionamento si basa sulla capacità degli agenti di suddividere un compito complesso in più sotto‑attività indipendenti, ciascuna affidata a un subagente. Quando tutte le inferenze vengono inviate alla stessa GPU, si crea un collo di bottiglia; PAIR interviene distribuendo le richieste tra più nodi compatibili, senza richiedere modifiche agli agenti o l'adozione di nuove API. È bene notare che la tecnologia non crea un pool virtuale di GPU: una singola inferenza viene eseguita interamente su un solo sistema. PAIR gestisce più richieste parallele, ma non suddivide un singolo modello o una singola elaborazione tra più acceleratori. Questo comportamento lo distingue dai cluster tradizionali, che combinano le risorse di più GPU per un'unica attività.
Il software è stato progettato tenendo conto della natura variabile delle reti domestiche. Un PC da gaming può essere impegnato in un gioco, un notebook può entrare in sospensione, una workstation può essere occupata da un altro processo. PAIR utilizza mDNS per individuare i sistemi disponibili e mantiene una visione aggiornata dei nodi, valutando lo stato della macchina, il motore di inferenza attivo, la presenza del modello richiesto, il carico corrente e l'utilizzo della GPU. PAIR supporta Ollama e LM Studio, mantenendo le interfacce locali già utilizzate dagli agenti. Il software agisce come proxy: riceve la richiesta, identifica il motore e il modello necessari, seleziona un nodo idoneo e inoltra l'elaborazione al relativo servizio di inferenza. L'applicazione che genera la richiesta continua a utilizzare una singola connessione, senza gestire direttamente i diversi computer della rete.
La configurazione include un meccanismo di pairing sicuro. Dopo la scoperta dei sistemi, l'utente autorizza i dispositivi che possono entrare nel gruppo locale; la comunicazione tra i nodi è protetta tramite mTLS e certificati generati automaticamente. NVIDIA specifica che prompt, dati e traffico di inferenza sono progettati per rimanere all'interno della rete domestica. Un esempio ufficiale riguarda Hermes Agent, utilizzato per creare subagenti incaricati di analizzare una casella di posta e costruire un piano di attività. In una dimostrazione specifica, un carico composto da cinque subagenti basato su Qwen3.6 35B A3B ha richiesto 6 minuti e 18 secondi utilizzando una singola RTX 5090, mentre la configurazione PAIR con due RTX 5090 ha completato lo stesso lavoro in 3 minuti e 48 secondi. Nvidia precisa però che il risultato non rappresenta un benchmark generale e che il guadagno dipende dal parallelismo del carico, dal modello, dalla rete e dalla disponibilità dei nodi.
PAIR è disponibile in beta per Windows, macOS e Linux, accessibile via interfaccia grafica o terminale. Sono supportate le schede grafiche GeForce RTX 2000 e successive, le RTX PRO con architettura Turing o più recente, NVIDIA DGX Spark e i sistemi Apple basati su chip M4 o successivi. Il progetto è open source e NVIDIA invita gli sviluppatori a esaminare il codice e contribuire allo sviluppo.
|
Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News
ti consigliamo di iscriverti alla Newsletter gratuita.
Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui
sotto, inserire un commento
(anche anonimo)
o segnalare un refuso.
© RIPRODUZIONE RISERVATA |
|
|
|
||
|
