Il miglior materiale di addestramento per l'intelligenza artificiale � fermo su uno scaffale. La frase � di ISBNdb, il pi� grande database di libri al mondo e che oggi vende ai laboratori di IA un servizio di acquisizione all'ingrosso di volumi cartacei da scansionare. C'� un sinistro contrappasso: il settore che porta avanti la promessa di digitalizzare la conoscenza umana ora paga per rastrellarla e triturarla, un camion di libri alla volta.
Il dettaglio fondamentale, e che rappresenta il valore dell'operazione, � la data di stampa: un libro pubblicato prima del 2022 precede l'era dei grandi modelli linguistici, quindi non pu� contenere testo generato da un'IA. Il web aperto � ormai saturo di contenuti sintetici, prodotti dagli stessi modelli, e addestrarsi su quel materiale espone al cosiddetto model collapse.
Quando un modello viene addestrato sull'output di modelli precedenti, le sfumature linguistiche si appiattiscono, gli errori sistematici si sommano e ogni generazione risulta leggermente peggiore di quella prima. Una tiratura cartacea pre-2022 � invece un archivio umano fissato, che nessuno pu� riscrivere di nascosto a posteriori.
La corsa all'avvelenamento
Dietro la richiesta di carta pulita c'� una seconda ragione, ed � il fronte pi� interessante. Gli autori hanno iniziato a difendersi con tecniche di avvelenamento dei dati, il data poisoning: inserire nel testo caratteri che una persona legge normalmente ma che confondono un modello, sulla scia di strumenti come Nightshade nati per le immagini. L'idea � rendere l'opera dannosa per qualsiasi modello che la ingerisca, pur restando perfettamente leggibile per l'essere umano.
