Sfide scientifiche

Per accelerare l’intelligenza artificiale abbiamo costruito GPU sempre più potenti, collegato pile di memorie HBM con bus larghissimi e iniziato perfino a progettare memorie flash capaci di avvicinarsi agli acceleratori. Perché, però, continuare a spendere energia e tempo per trasportare miliardi di parametri dalla memoria verso il processore, se una parte dei calcoli può avvenire laddove quei dati risiedono? Samsung prova a rispondere con LPDDR5X-PIM, una memoria da 16 GB mostrata a Hot Chips 2026 che integra unità aritmetiche accanto ai bank DRAM.

Il dato che fa capire subito la portata dell’idea è la banda: 76,8 GB/s attraverso l’interfaccia esterna, contro 614 GB/s disponibili internamente alle unità di elaborazione PIM.

La ricerca sul Processing-in-Memory, o PIM, accompagna l’informatica da decenni e tenta di superare uno dei limiti fondamentali dell’architettura di von Neumann: memoria e processore sono fisicamente distinti, quindi ogni elaborazione richiede continui trasferimenti di dati. Samsung lavora pubblicamente sulla soluzione almeno dal 2021.

LPDDR5X-PIM: 614 GB/s senza spostare continuamente i pesi