Con la crescente diffusione dei modelli di intelligenza artificiale in grado di ragionare, pianificare ed eseguire sequenze articolate di operazioni, NVIDIA ritiene che l'infrastruttura dei datacenter debba evolvere da semplice piattaforma di addestramento a vera e propria "fabbrica dell'intelligenza". È in questo contesto che si inserisce Rubin, la nuova architettura GPU destinata alla piattaforma Vera Rubin, progettata per sostenere i carichi di lavoro della cosiddetta AI agentica.
Secondo l'azienda, i moderni agenti AI non si limitano più a generare una risposta a un prompt, ma devono elaborare lunghe catene di ragionamento, consultare strumenti esterni, verificare risultati intermedi e gestire contesti di grandi dimensioni. Tutto ciò aumenta l'importanza della latenza nell'inferenza, della capacità di elaborare rapidamente i token generati e dell'efficienza nella gestione della memoria e delle comunicazioni tra GPU.
Dal punto di vista hardware, Rubin rappresenta un deciso passo avanti rispetto a Blackwell. La GPU integra 336 miliardi di transistor, 224 Streaming Multiprocessors, 896 Tensor Core e il Transformer Engine di terza generazione, capace di raggiungere fino a 50 PFLOPS nelle operazioni sparse in formato NVFP4. NVIDIA sostiene che, a parità di consumo energetico, la piattaforma Vera Rubin possa offrire fino a 10 volte il throughput nei carichi di inferenza agentica rispetto alla generazione Blackwell.
