Storia in 2 fonti

Un LLM gira su un microcontrollore da meno di 10 dollari: raggiunge quasi 10 token al secondo

Uno sviluppatore � riuscito a eseguire un piccolo modello linguistico direttamente su un microcontrollore ESP32-S3 dal costo inferiore ai 10 dollari. Grazie a quantizzazione, offload degli embedding nella memoria Flash e codice C ottimizzato, il sistema raggiunge circa 9 token al secondo, dimostrando nuove possibilit� per l'AI embedded.

Raccontata da

theregister.com

hwupgrade.it

Confronto fonti

2 prospettive sulla stessa storia

AI · summaries

hwupgrade.itStai leggendo20 g fa

Un LLM gira su un microcontrollore da meno di 10 dollari: raggiunge quasi 10 token al secondo

originale

theregister.com22 g fa

Dev proves LLMs will run on anything – even a $10 microcontroller

SlvDev ran TinyStories (28.9M params) on $10 ESP32-S3 at 9.88 tokens/sec using quantization and flash offloading. Edge AI now feasible on tight hardware; Raspberry Pi runs Gemma 4-E2B-it for local agents, reducing OpenAI/Anthropic cloud dependency.

Leggi questa versione →

Timeline cronologica

martedì 4 agosto 2026·theregister.com
Dev proves LLMs will run on anything – even a $10 microcontroller
Nearly 10 tok/s and it's mostly coherent — What's not to like?
giovedì 6 agosto 2026·hwupgrade.it
Un LLM gira su un microcontrollore da meno di 10 dollari: raggiunge quasi 10 token al secondo
Uno sviluppatore � riuscito a eseguire un piccolo modello linguistico direttamente su un microcontrollore ESP32-S3 dal costo inferiore ai 10 dollari. Grazie a quantizzazione,…