Perplexity ha portato il proprio agente AI fuori dal cloud con Portable Computer, un’applicazione sviluppata insieme a NVIDIA che esegue localmente modelli, orchestrazione, strumenti e gestione dei file. Il nuovo strumento punta a un problema che sta diventando sempre più rilevante con la crescita degli agenti: un sistema capace di lavorare per ore consuma molti più token di una normale chat e può trattare documenti, codice e dati che l’utente non vuole trasferire a server remoti.
Portable Computer prova a risolvere entrambe le questioni eseguendo il lavoro direttamente sulla macchina dell’utente e ricorrendo al cloud soltanto quando serve.
Hardware, modelli e compromessi economici
Portable Computer non è semplicemente un’interfaccia per eseguire un modello locale.
Perplexity ha trasferito sul dispositivo l’intera struttura necessaria a far funzionare Computer: modello locale, orchestratore, planner, router degli strumenti, scheduler, coda persistente dei task e indice per la ricerca locale. Anche l’esecuzione di codice e strumenti avviene in ambienti sandbox isolati.
