DiffusionGemma genera blocchi di testo in parallelo invece di un token alla volta. È open source, gira anche su GPU consumer e può superare i 1.000 token al secondo

DiffusionGemma generates text up to 4x faster than traditional models by producing entire blocks simultaneously, achieving roughly 1,479 tokens per second.

The new DiffusionGemma open model generates text in parallel — not one token at a time — and is optimized to run on the NVIDIA RTX PRO platform, NVIDIA DGX Spark systems and…