Da modelli “in fila indiana” a un’architettura che legge l’intera frase insieme: perché oggi quasi tutto passa da qui.
Per chi lavora nel frontend l’AI spesso arriva come una API: mandi un prompt, ricevi testo, magari streaming token per token, e lo infili nell’interfaccia. Ma sotto quella risposta “in tempo reale” c’è un’idea architetturale molto specifica che ha cambiato le regole del gioco: il Transformer.
È difficile sopravvalutarne l’impatto. Oggi, se pensi ai modelli più noti (GPT, Gemini, Claude e simili), stai quasi sempre pensando a varianti di questa architettura. E il punto non è che sia “più grossa” o “più potente”: è che risolve due limiti strutturali delle soluzioni precedenti.
Prima del Transformer: leggere il testo “attraverso una cannuccia”
Le architetture che dominavano i sistemi di linguaggio prima del Transformer (in particolare quelle ricorrenti) tendevano a processare una frase in modo strettamente sequenziale: una parola (o token) alla volta, da sinistra a destra.
