L’intelligenza artificiale promette alla Pubblica Amministrazione procedimenti più rapidi, servizi più accessibili e decisioni meglio informate. Può analizzare grandi quantità di dati, individuare ricorrenze, segnalare anomalie e supportare attività che fino a pochi anni fa richiedevano tempi e risorse molto maggiori. Ma quando un algoritmo entra in un procedimento pubblico, la domanda non è più soltanto se funzioni: è se sia giusto, spiegabile e controllabile.Per comprendere i rischi di una tecnologia così pervasiva si può partire da un caso ormai emblematico. Nel 2014, in Florida, Brisha Borden fu arrestata per aver sottratto una bicicletta e un monopattino da bambino del valore complessivo di circa 80 dollari, poi subito abbandonati. Nello stesso periodo, Vernon Prater, quarantunenne con precedenti per rapina a mano armata, fu fermato per aver rubato da un negozio utensili di valore analogo. Il sistema COMPAS, utilizzato allora come supporto predittivo nel contesto giudiziario, classificò Borden come soggetto ad alto rischio di recidiva e Prater come soggetto a basso rischio. Nei due anni successivi accadde il contrario: Borden non commise altri reati, mentre Prater tornò a delinquere.Il caso è stato spesso citato per mostrare come un sistema predittivo possa produrre esiti statisticamente distorti rispetto a gruppi diversi di popolazione, anche quando non utilizza esplicitamente determinate caratteristiche personali come variabili decisionali. Non dimostra che ogni algoritmo sia ingiusto, ma evidenzia un rischio essenziale: un sistema apparentemente neutro può generare effetti distorti se i dati, i criteri di progettazione o le modalità di utilizzo incorporano squilibri preesistenti.La decisione appare oggettiva perché prodotta da una procedura automatizzata, ma dietro ogni modello vi sono scelte umane: basi informative, obiettivi di ottimizzazione, soglie, assunzioni e criteri di validazione. Per la Pubblica Amministrazione questo passaggio è ancora più delicato, perché un errore algoritmico in ambito privato può generare perdite economiche o danni reputazionali, mentre un errore algoritmico in ambito pubblico può incidere sulla possibilità stessa di esercitare un diritto.Per questo l’adozione dell’IA nella PA non può essere trattata come una semplice innovazione tecnologica: è una questione di qualità democratica dell’azione amministrativa. L’algoritmo etico, quindi, non è un algoritmo “buono” in senso astratto, ma un sistema progettato, acquistato, utilizzato e controllato in modo coerente con i principi della buona amministrazione: legalità, imparzialità, proporzionalità, trasparenza, accountability e possibilità di contestazione. In altre parole, l’IA può aiutare la PA a decidere meglio solo se resta dentro un quadro chiaro di responsabilità pubblica.Indice degli argomenti