"Intelligenza artificiale" è finora stato più o meno un sinonimo di "GPU", e ciò a sua volta ha voluto dire "NVIDIA". Il mercato sta però cambiando, con molte aziende che propongono acceleratori di vario tipo, spesso non basati sul modello GPU. È questo il caso di FuriosaAI, azienda sudcoreana che farà il suo ingresso nel mercato europeo grazie a Equinix.
Gli acceleratori per l'IA di FuriosaAI arrivano in Europa
FuriosaAI è stata fondata nel 2017 e ha raccolto diversi successi nel suo Paese d'origine, ad esempio con LG. L'azienda sta ora per sbarcare in Europa con i suoi acceleratori RNGD (pronunciato "renegade", "rinnegato, bandito, ribelle").
Tali acceleratori sono prodotti da TSMC usando il processo a 5 nm, sono dotati di 48 GB di memoria HBM3 con una banda di 1,5 TB/s, e offrono una potenza di calcolo di 512 TFLOPS con precisione FP8.
L'aspetto più interessante degli acceleratori di FuriosaAI sta nel fatto che, rispetto alle GPU di NVIDIA, sono molto più efficienti. Ciascun acceleratore consuma infatti 180 W; la NVIDIA RTX Pro 6000, che è la GPU concorrente più vicina a RNGD, offre sì il doppio della memoria e il doppio della capacità di calcolo, ma consuma anche oltre tre volte tanto. L'azienda fa dunque notare come un sistema da 3 kW con RNGD offra "una capacità d'inferenza per rack significativamente più elevata [rispetto alle GPU] mantenendo un forte profilo di performance per watt per l'IA agentica".
