Eseguire modelli di Intelligenza Artificiale in locale è diventato tecnicamente possibile per molti utenti, ma scegliere il modello giusto per il proprio hardware rimane un’operazione tutt’altro che intuitiva.
La proliferazione di LLM open source e strumenti come Ollama ha abbassato la barriera d’ingresso, ma variabili come GPU, RAM disponibile e tecniche di quantizzazione rendono difficile capire cosa funzionerà davvero sulla propria macchina.
LLM Checker nasce proprio per risolvere questo problema: è un’utilità a riga di comando che analizza automaticamente l’hardware e suggerisce i modelli compatibili.
Come funziona l’analisi hardware e la selezione dei modelli
LLM Checker è sviluppato in JavaScript e richiede Node.js 16 o superiore.
