OpenAI ha presentato il suo primo chip proprietario per l’Intelligenza Artificiale, battezzato Jalapeño e sviluppato insieme a Broadcom. L’annuncio segna una tappa importante nell’evoluzione dell’infrastruttura che sostiene ChatGPT, Codex e gli altri servizi dell’azienda.
La crescita dei modelli linguistici ha trasformato la disponibilità di potenza computazionale in uno dei principali fattori competitivi del settore. Quasi tutti i grandi operatori dell’AI hanno investito in processori personalizzati per ridurre la dipendenza da fornitori esterni e contenere i costi. OpenAI entra ora ufficialmente in questo gruppo.
Cos’è Jalapeño e a cosa serve
Jalapeño è un ASIC progettato specificamente per l’inferenza AI. A differenza delle GPU general purpose, un ASIC nasce per eseguire un insieme limitato di operazioni con livelli superiori di efficienza energetica. Nel caso di OpenAI, il chip è stato ottimizzato per i carichi tipici dei grandi modelli linguistici.
L’inferenza è la fase in cui il modello elabora una richiesta dell’utente e genera una risposta. Richiede enormi quantità di calcolo distribuite su milioni di query giornaliere e rappresenta una delle principali voci di costo per i fornitori AI. Progettare hardware su misura consente quindi di ridurre questa dipendenza dalle GPU disponibili sul mercato.
