Il discorso pubblico sull’intelligenza artificiale (IA) si divide tra trionfalismi e pathos catastrofista sull’inevitabile perdita di mondo, da quando nel novembre del 2022 OpenAI ha reso pubblico ChatGpt 3.5. Il libro di Flavia Barca I pregiudizi dell’AI (Donzelli, pp. 240, euro 16) è un’occasione imperdibile per abbandonare le banalità della narrazione dominante. Un testo approfondito, acuto e intelligente che analizza i pregiudizi dei sistemi artificiali.
IL VOLUME non li considera un effetto collaterale negativo di un sistema funzionante. Mostra che gli stereotipi e le discriminazioni sono necessarie per il funzionamento dei processi di categorizzazione e raggruppamento universalisti di cui si nutrono gli algoritmi di apprendimento che estraggono le regolarità (i pattern) dai dati disponibili.
I processi classificatori e predittivi sono sempre situati. Nessuna tecnologia è neutrale. Qualunque rappresentazione digitale è l’effetto di scelte di valutazione degli obiettivi, di definizione del grado di efficienza previsto e dei contenuti dei dati di addestramento.
COMMON CRAWL, per esempio, è uno degli archivi di pagine web su cui si addestrano i Large Language Model, come Claude, Gemini o ChatGpt, e contiene informazioni di ogni tipo, che riflettono senza filtri la mentalità dominante, che Laura Bates identifica come una «misoginia infrastrutturale».
