News
Rumors su Frozen v2: un futuro processore per server, pensato per eseguire LLM limitando i consumi energetici. Molto meglio di quanto non faccia una Tpu.
Google da tempo è impegnata nello sviluppo di chip per l’intelligenza artificiale, ottimizzati per eseguire modelli AI con un occhio alle prestazioni e l’altro all’efficienza, ma vuole fare di più. Secondo indiscrezioni del sito The Information, l’azienda di Mountain Views sarebbe al lavoro su Frozen v2, nome in codice di un nuovo chip per server che integra l’AI di Gemini direttamente nell’hardware, e che promette di migliorare l’efficienza dei calcoli di intelligenza artificiale.
Un circolo virtuoso, insomma, in cui l’AI stessa aiuta a migliorare il funzionamento dell’AI. Google non è nuova al mondo del silicio: con le proprie Tensor Processing Unit (Tpu) l'azienda ha sviluppato una tipologia circuito integrato specifica per l’accelerazione dei carichi di lavoro di machine learning.
Secondo i rumors, però, con Frozen v2 si potrà fare un salto di qualità su questo fronte, raggiungendo un’efficienza energetica per token da sei a dieci volte superiore a quella delle attuali Tpu di Google. Il tutto è reso possibile, almeno in teoria, dal fatto di eseguire alcune elaborazioni direttamente sul chip, evitando trasferimenti di dati tra unità di calcolo e memoria.
