Un modello linguistico, oggi, non trattiene nulla fra una sessione e l’altra. Nel primo articolo abbiamo descritto questa amnesia per progetto – pesi congelati al termine dell’addestramento, nessun consolidamento in esercizio, ogni conversazione che riparte da zero – e la ragione per cui è anche una virtù di governo: un sistema che non cambia è un sistema riproducibile, e “stesso modello, stesso output” è il presupposto di validazione, audit e conformità. Abbiamo visto poi come una linea di ricerca stia provando a superare quell’amnesia facendo dormire le macchine: consolidare offline, in finestre dedicate, ciò che il sistema ha incontrato da sveglio. La conclusione era che consolidare è buona ingegneria, ma che cambia la natura dell’oggetto da governare.Il punto di attrito è uno solo, e tocca ogni presidio costruito finora. Un sistema che si modifica fra una sessione e l’altra non è riproducibile. Se il modello di stasera non è quello di stamattina, l’audit perde il proprio riferimento, la validazione perde valore predittivo, un test di conformità smette di essere ripetibile. Il modello che “impara il mestiere” è, per lo stesso motivo, un modello che non si lascia congelare nella fotografia da mostrare a un’autorità di vigilanza.Indice degli argomenti