La proliferazione di modelli linguistici open source ha reso tecnicamente accessibile l'esecuzione di AI in locale a una platea sempre più ampia di utenti. Tuttavia, la selezione del modello adeguato al proprio sistema rimane un'operazione complessa: variabili come la quantità di VRAM disponibile, il tipo di GPU, il supporto alle istruzioni AVX e i diversi formati di quantizzazione rendono difficile orientarsi senza consultare documentazione tecnica e tabelle comparative. È in questo contesto che si inserisce LLM Checker, uno strumento gratuito e open source comparso su GitHub, concepito per automatizzare la valutazione di compatibilità tra l'hardware di una macchina e i modelli AI disponibili.
Una volta avviato, LLM Checker effettua una rilevazione completa delle specifiche di sistema: quantità di RAM e VRAM, modello e capacità di calcolo della GPU, supporto ai backend di accelerazione hardware come CUDA per le schede NVIDIA, ROCm per le soluzioni AMD e Metal per Apple Silicon. In assenza di accelerazione GPU, il software non restituisce semplicemente un errore: identifica comunque i modelli che possono operare tramite CPU con prestazioni accettabili, indicando esplicitamente quali requisiti non vengono soddisfatti per i modelli esclusi.
