La startup d-Matrix ha scelto di adottare NVIDIA NVLink Fusion, affinché la prossima generazione degli acceleratori XPU Raptor si integri al meglio con l'infrastruttura rack-scale del produttore statunitense. L'accordo punta a ridurre tempi, costi e complessità necessari per portare sul mercato sistemi dedicati all'inferenza AI su larga scala, sfruttando l'ecosistema NVIDIA MGX e le relative infrastrutture di rete, alimentazione e raffreddamento.
La startup, fondata nel 2019 e focalizzata fin dall'inizio sull'inferenza, ha passato circa sette anni a sviluppare una piattaforma hardware e software basata su un approccio memory-centric. La società ha raccolto oltre 500 milioni di dollari, e nel giugno scorso ha presentato Corsair.
Secondo d-Matrix, Corsair può arrivare a elaborare i carichi di inferenza fino a dieci volte più velocemente rispetto a un sistema basato esclusivamente su GPU NVIDIA. L'architettura separa le fasi del processo: le GPU vengono utilizzate per il prefill, caratterizzato da una maggiore intensità computazionale, mentre l'acceleratore d-Matrix interviene nella fase di decode, durante la quale il modello genera token e risposte.
Il prossimo progetto in rampa di lancio in casa d-Matrix è Raptor, un design che ruota attorno alla DRAM 3D con l'obiettivo di raggiungere una larghezza di banda di 100 TB/s ed equipaggiare ogni scheda di 2,3 TB di memoria. Il chip dovrebbe arrivare al tape-out entro la fine del 2026, con disponibilità prevista nel quarto trimestre del 2027. La soluzione prevede di i DRAM e logica di calcolo in uno stesso package,
