Google spinge ancora sull’hardware proprietario per l’Intelligenza Artificiale, perché oggi efficienza e costi contano quasi quanto i modelli stessi.

In questa direzione si inserisce Ironwood, la TPU di settima generazione presentata da Google come acceleratore pensato per l’“age of inference”, cioè per far funzionare in modo più rapido ed economico i modelli già addestrati.

Chip AI e Gemini: perché l’inferenza è così importante?

L’inferenza è la fase in cui un modello risponde davvero alle richieste degli utenti, quindi è qui che si concentrano gran parte del traffico e dei costi operativi. Google spiega che Ironwood è stato progettato proprio per sostenere questo tipo di carichi, con l’obiettivo di ridurre latenza, consumi e costo per richiesta.

Questa scelta riflette una tendenza più ampia del settore: le grandi piattaforme cloud stanno sviluppando chip su misura per ottimizzare task specifici, invece di affidarsi solo a soluzioni generaliste. Nel caso di Google, il vantaggio è ancora più rilevante perché i suoi modelli Gemini sono integrati in Search, Workspace, Android e nei servizi per sviluppatori.