Silicon Motion ha annunciato il nuovo SM2524XT, controller SSD PCIe Gen 5 x4 di nuova generazione sviluppato per gestire inferenza AI e carichi di lavoro legati alla KV Cache. La nuova soluzione DRAMless punta a offrire prestazioni elevate negli AI PC di prossima generazione, con particolare attenzione alle operazioni casuali e alla riduzione della latenza.
Il controller utilizza una nuova architettura con quattro core di elaborazione e supporta memorie NAND con velocità fino a 4.800 MT/s. Secondo i dati diffusi dall'azienda, il chip raggiunge una velocità di lettura sequenziale fino a 14 GB/s e prestazioni casuali pari a 2,5 milioni di IOPS, numeri particolarmente elevati per una piattaforma quad-channel priva di DRAM dedicata.
Silicon Motion ha realizzato il controller con processo produttivo TSMC a 6 nm, scelta che consente di migliorare anche l'efficienza energetica. L'azienda dichiara infatti un incremento fino al 25% nelle prestazioni per watt rispetto alla generazione precedente, oltre a un miglioramento analogo nelle operazioni casuali sotto carichi sostenuti.
Uno degli aspetti centrali del progetto riguarda, come premesso, la gestione della KV Cache, componente sempre più importante nei modelli AI eseguiti in locale. Questa tecnologia permette di memorizzare dati già elaborati dal modello linguistico evitando nuovi calcoli per ogni token generato. Il vantaggio è la riduzione del carico computazionale, ma comporta anche una quantità molto elevata di accessi casuali e frammentati allo storage.
