Da tempo la pubblica amministrazione ha cominciato a fare ricorso alla gestione automatizzata dei dati. Il boom dell’intelligenza artificiale ha fornito un’ulteriore spinta. La tentazione, del resto, è forte: meno personale richiesto, meno tempo, meno risorse: in una parola, più efficienza.
La macchina non si stanca, può processare miliardi di informazioni al secondo, una mole di lavoro che prima avrebbe richiesto settimane. Eppure, l’esperienza ha mostrato i limiti di un approccio eccessivamente sbilanciato verso l’ottimismo: come nel caso di Syry, il sistema olandese che ha spedito verifiche fiscali a migliaia cittadini. Inchieste indipendenti hanno mostrato che l’algoritmo era distorto, curvato da pregiudizi. E a farne le spese sono le categorie più svantaggiate: sia per le distorsioni implicite nelle black box dei software, sia perché – in caso di problemi – per queste ultime è più difficile ottenere giustizia.
Fermare le conseguenze di un sistema mal tarato è difficile: una delle caratteristiche principali è la scalabilità, cioè la possibilità di prendere migliaia di decisioni all’istante. Per questo un lavoro come quello dell’Osservatorio sull’Amministrazione automatizzata è fondamentale. Avviato nel 2018 da un gruppo di volontari, ha appena pubblicato un rapporto che mappa i sistemi in uso in Italia, Stato che – sorprendentemente – è secondo solo ai Paesi Bassi quanto a impiego di queste tecnologie in Europa.
