L'AI generativa si sta spostando sempre più vicino all'utente e NVIDIA, in occasione di IFA 2026, ha annunciato nuove iniziative per l'elaborazione locale che prevedono ottimizzazioni software, strumenti per gli agenti e una soluzione pensata per sfruttare contemporaneamente più PC presenti nella stessa rete. Al centro dell'annuncio c'è NVIDIA Personal AI Router (PAIR), un software open source che permette di distribuire le richieste di inferenza tra sistemi compatibili senza richiedere modifiche agli agenti o l'adozione di una nuova API.
Il principio alla base di PAIR è relativamente semplice. Un agente può scomporre un'attività complessa in più sotto-attività affidandole a diversi subagenti. Questa modalità consente di eseguire contemporaneamente numerose richieste, ma può creare un collo di bottiglia quando tutte le inferenze vengono indirizzate verso la stessa GPU. PAIR introduce un livello di instradamento capace di individuare i sistemi disponibili nella rete locale e assegnare ogni richiesta indipendente a un nodo che disponga delle risorse necessarie.
Diagramma di flusso che illustra come NVIDIA PAIR distribuisce un'inferenza Ollama
La soluzione non realizza, però, un pool virtuale di GPU. Una singola inferenza rimane interamente su un solo sistema: PAIR distribuisce richieste differenti tra più macchine, ma non suddivide un singolo modello o una singola richiesta su più acceleratori. Questo distingue il funzionamento della tecnologia da quello di un cluster tradizionale utilizzato per combinare le risorse di più GPU.
