C’era una volta il Turco Meccanico: un automa settecentesco, che sembrava uscito dalle storie fantastiche del Barone di Munchausen, in grado di sfidare esperti giocatori agli scacchi e, talvolta, di vincere; funzionava in realtà con trucco, molto semplice, molto umano: una persona di piccola statura nascosta all’interno del marchingegno seguiva la partita attraverso dei magneti e spostava i pezzi sulla scacchiera grazie a una serie di comandi. Appare in dei racconti di Edgar Allan Poe e viene ricordato nella categoria degli “automi fraudolenti”. Oggi abbiamo l’esempio dell’AMT, l’Amazon Mechanical Turk, che, secondo Emily Bender e Alex Hanna, autrici del libro "L’Inganno dell’Intelligenza Artificiale” (Fazi Editore), prende dall’automa truffaldino del XVIII secolo più del semplice nome: la piattaforma di Amazon per il crowdworking, infatti, svela la folla globale di lavoratori umani occultati nel sistema ad alta tecnologia dell’IA. Bender e Hanna citano il caso di ImageNet, il database di immagini lanciato come sfida dalle università americane di Princeton e Stanford per addestrare l’IA al riconoscimento facciale. Per allenare lo sguardo in deep learning delle reti neurali sono state impiegate circa 50 mila persone, che hanno raccolto 14 milioni di immagini. Dietro i sistemi a guida autonoma, ai Large Language Models, all’arte digitale allucinata o meno (un errore provocato soprattutto), ai pappagalli stocastici che sembrano persone dialoganti, si nasconde, quindi, il lavoro sottopagato di un nuovo “lumpenproletariat”, sparso ai quattro angoli del pianeta e in particolare nei Paesi più poveri. Non si tratta solo di condizioni economiche. Le due autrici segnalano come molti di questi manovali dell’Intelligenza Artificiale siano costretti a visionare immagini di crimini, pornografia e tragici incidenti per fissare parametri e limiti agli algoritmi che regolano il comportamento dei bot e l’abilità generativa delle macchine. Con conseguenze spesso pesanti sulla loro psiche. L’allucinazione, così, rischia di essere troppo umana, verrebbe da dire. Le due autrici hanno un’esperienza di prima mano dell’industria digitale. Emily Bender dirige il Computational Linguistics Laboratory dell’Università di Washington; è stata lei a coniare la fortunata espressione “pappagalli stocastici”, riferita alle IA generative e predittive. Alex Hanna, sociologa e informatica, ha svelato i pregiudizi razziali, politici, culturali e di genere che si nascondono nella finta serendipity dell’high tech di Silicon Valley e dintorni. Il loro libro, perciò, si propone come spiegazione dei meccanismi che regolano i comportamenti dell’industria triliardaria che muove le macchine generative. Si incentra sulla loro pericolosità. Sull’hype culturale e del mercato (inteso come montatura, esagerazione creata ad arte), sul miraggio spaventoso e allettante (e ingannevole, secondo Bender e Hanna) dell’IA generale e cosciente, in grado di distruggere, schiavizzare o salvare il mondo. E si propone anche come un manuale di sopravvivenza. Il sottotitolo del libro è: “Come resistere a Big Tech e costruire il futuro che vogliamo”. Le ricercatrici evocano il ricordo del luddismo che fece da contraltare alla rivoluzione industriale nel XIX secolo. Ma fu un esperimento in gran parte fallimentare. Oggi il suggerimento di ridere e irridere all’hype della cultura della tecnologia sopra tutti ha un’eco sessantottina. Ma basterà contro il potere di persuasione di milioni di bot che conoscono i nostri desideri e le nostre paure più intime? “I bot mossi dall’Intelligenza Artificiale sono oggi il maggior rischio per la democrazia”, opina Stefano Quintarelli, autore e imprenditore informatico, spesso critico degli eccessi della sfera digitale controllata da una nuova aristocrazia che la usa come cassa di propaganda ai fini di espandere il mercato e il proprio potere. Qual è potrebbe essere, quindi, la soluzione? “Aumentare la consapevolezza delle persone, certo. Ma anche limitare la proprietà di strumenti tecnologici potenti come l’IA. Per esempio, in Cina, il partito comunista, preoccupato del suo monopolio ideologico, ha favorito i sistemi Open Weight, in cui i meccanismi sono trasparenti. L’utente scarica il pacchetto dell’IA e lo gestisce in proprio”. Il pericolo, però, è di scivolare nella rete di un Immane Fratello: molte delle aziende che producono i modelli Open Weight sono collegate allo Stato nella Repubblica Popolare. Questione di modelli culturali e politici. Ancora più trasparente sarebbe l’Open Source, ma c’è chi paventa un’anarchia diffusa, dotata di strumenti micidiali e, di fatto, senza inibizione. Alcuni, come Quintarelli, propongono di educare modelli di IA sui valori europei. Ma si possono isolare le singole costituzioni degli Stati d’Europa dalla storia drammatica che le ha prodotte? L’IA è in grado di capire, anche solo stocasticamente, gli errori delle società umane? Bender e Hanna sembrano convinte di no. Dati ed esempi alla mano elencano derive eugenetiche e tecnocratiche, fallaci predizioni in ambito ospedaliero – per esempio i casi di falsi positivi e negativi nella predizione della sepsi – il furto d’immagini rielaborate nel deep fake pornografico, i modelli usati dall’esercito israeliano a Gaza per colpire il maggior numero possibile di miliziani di Hamas senza riguardo per le vittime civili, i documenti scientifici prodotti dai Large Language Models senza nessuna reale “peer review” e, quindi, il degrado progressivo della comunità scientifica, la perdita di lavoro e creatività nell’industria culturale. La deriva maggiore, però, appare economica e politica. Rischiamo una nuova servitù della gleba digitale (poco virtuale e molto reale) nell’universo controllato dai “Tech Barons”? “L’immagine è forte, ma la possibilità esiste”, afferma Quintarelli. L’IA, al di là della sua utilità reale, tende ad affermarsi come nuovo standard: dal linguaggio al tempo libero, dall’automazione intellettuale all’economia del lavoro. Il nocciolo è ancora sull’hype. Che sempre più spesso diventa IPO, ovvero Initial Public Offering: il caso più eclatante è la quotazione in borsa di Space X che ha reso Elon Musk il primo triliardario della storia. Una società sulla cresta dell’hype, nonostante le perdite effettive. Guarda caso, la società di cui Musk è domino assoluto controlla anche il settore dell’Intelligenza Artificiale delle sue imprese. Forse potrebbe essere una risata a far scoppiare la bolla come si augurano Bender e Hanna. Ma poi bisognerà ricostruire. Con discernimento umano.