Stiamo dunque camminando verso una nuova era di disuguaglianza di genere?«Sì, credo che esista un rischio reale di aggravare disuguaglianze storiche attraverso l’intelligenza artificiale. L’IA non nasce nel vuoto: apprende da dati prodotti da società che presentano già bias strutturali. Se questi dati riflettono disuguaglianza, discriminazione o esclusione, i sistemi tendono non solo a riprodurle, ma persino ad amplificarle, con una pericolosa apparenza di neutralità tecnica. L’aspetto più preoccupante è che questi sistemi vengono spesso percepiti come “oggettivi”, quando in realtà incorporano sempre, direttamente o indirettamente, decisioni umane: quali dati utilizzare, quali variabili privilegiare, quali risultati considerare efficaci. Tutto questo può tradursi in forme di discriminazione meno visibili, più automatizzate e quindi più difficili da contestare.Inoltre, stiamo assistendo a una crescente ipersessualizzazione digitale delle donne attraverso deepfake, immagini generate senza consenso e strumenti di manipolazione algoritmica. Non si tratta soltanto di un problema tecnologico, ma anche di una questione di diritti umani, dignità e democrazia. Le conseguenze possono essere devastanti. Da un lato, c’è la violazione della privacy: perché un algoritmo possa “spogliare” digitalmente una persona, deve necessariamente avere accesso a una sua immagine. Questo significa che le fotografie delle donne possono circolare liberamente e senza controllo, allora è una questione di privacy. Dall’altro lato, la diffusione di queste immagini provoca danni morali, compromette la vita relazionale e spesso ha ripercussioni sul piano lavorativo e professionale. Nel caso delle adolescenti, per esempio, molte smettono di frequentare la scuola per giorni o interrompono le proprie attività sociali. Spesso arrivano persino ad abbandonare i social network. Un altro aspetto fondamentale è la violenza digitale, che finisce per trasformarsi in una forma di censura particolarmente dura nei confronti delle donne. Questo fenomeno colpisce soprattutto professioniste e giornaliste, silenziando voci femminili nello spazio pubblico digitale».Ci fa qualche esempio di queste discriminazioni?«I sistemi di IA apprendono schemi statistici a partire da dati storici. Il problema è che questi dati riflettono spesso pratiche discriminatorie preesistenti oppure escludono completamente determinati gruppi sociali, vulnerabili o minoritari. In altre parole, esistono collettività interamente invisibilizzate nei dataset. Di conseguenza, l’IA finisce per “imparare” che certe disuguaglianze siano normali o persino efficienti. Per esempio, alcuni sistemi di reclutamento penalizzavano i CV delle donne perché erano stati addestrati su dati storici di assunzioni dominate dagli uomini. Esistono anche algoritmi di riconoscimento facciale con tassi di errore molto più elevati nei confronti delle donne razzializzate, poiché addestrati prevalentemente su volti maschili e bianchi. Nel settore sanitario, alcuni sistemi hanno sottodiagnosticato malattie cardiovascolari nelle donne perché i dati clinici storicamente si basavano soprattutto su sintomi maschili. In ambito finanziario, algoritmi di credito possono offrire condizioni peggiori a donne o minoranze, associando determinati profili a un rischio economico maggiore. Il problema, quindi, non riguarda soltanto il genere, ma tutte le dimensioni della diversità: se non appartieni al gruppo egemonico, hai molte più probabilità di subire qualche forma di discriminazione. L’intelligenza artificiale non inventa il pregiudizio: lo automatizza, lo amplifica e gli conferisce un’apparenza di legittimità matematica. Inoltre, tendiamo sempre di più a fidarci delle previsioni del “saggio oracolo algoritmico”, mettendole meno in discussione e verificandole sempre meno. In questo senso si produce anche quello che viene definito un “circolo vizioso di retroalimentazione”: il dato distorto viene confermato nella realtà e reintrodotto nel sistema, rafforzando ulteriormente il bias iniziale. È ciò che è accaduto, per esempio, con sistemi di predictive policing come PredPol, che indicavano i quartieri con maggiore probabilità di criminalità. Poiché veniva inviata una maggiore presenza di polizia proprio in quelle aree, spesso già considerate problematiche, il numero di arresti aumentava, confermando apparentemente la previsione dell’algoritmo. È quello che in psicologia viene definito una “profezia che si autoavvera”».Uno studio tedesco sostiene che l’Ia, consultata da donne per richiedere un parere sul loro possibile stipendio, ha consigliato loro stipendi inferiori rispetto agli uomini. l’Ia conferma il gender pay gap: le risulta?«Sì, esistono numerosi casi simili. Uno dei più noti è stato il sistema sperimentale di reclutamento di Amazon, che penalizzava automaticamente i profili associati alle donne perché era stato addestrato su curriculum storici prevalentemente maschili. Sono stati inoltre rilevati bias negli strumenti di pubblicità digitale, che mostravano offerte di lavoro meglio retribuite più frequentemente agli uomini rispetto alle donne. In alcuni sistemi di IA generativa, quando viene chiesto di rappresentare professioni prestigiose — come CEO, scienziato o ingegnere — predominano immagini maschili, mentre le donne vengono associate soprattutto a ruoli di cura o assistenza. Si tratta di un chiaro rafforzamento degli stereotipi di genere. Questo fenomeno è visibile anche negli assistenti virtuali e nei chatbot, sia nel linguaggio utilizzato sia nei ruoli che vengono attribuiti. Tutto ciò dimostra che l’intelligenza artificiale assorbe immaginari culturali già esistenti e, in assenza di controlli adeguati, può finire per rafforzarli ulteriormente».Abbiamo possibilità di verifica o ci troviamo di fronte a una tecnologia occulta?«Esistono diversi meccanismi per auditare e valutare i sistemi di IA. Oggi si parla di audit algoritmici, valutazioni d’impatto e obblighi di trasparenza. La città di New York ha approvato la Local Law 144, che impone audit sui bias per gli strumenti automatizzati utilizzati nei processi di selezione del personale. A livello internazionale stanno emergendo linee guida per valutare i rischi discriminatori prima dell’implementazione dei sistemi di Ia. Nel T20 del G20 Brasile abbiamo pubblicato il policy brief “Auditing algorithms as way to prevent algorithmic bias”. Col gruppo Women for Ethical AI dell’Unesco abbiamo sviluppato il paper “Credentialing AI across the lifecycle: a gender-inclusive Ai auditing framework”. Il problema è che molti modelli continuano a funzionare come “scatole nere”: non sappiamo esattamente come arrivino a determinate conclusioni. È fondamentale pretendere trasparenza, tracciabilità e una supervisione umana. Questi principi sono già in normative come l’AI Act e il Digital Services Act europei».I pregiudizi sui quali l’IA è addestrata in realtà si manifestano in realtà non solo verso le donne ma verso tutte le minoranze: come si favorisce una vera equità?«L’equità non si raggiunge semplicemente eliminando i bias tecnici; richiede un approccio integrale fondato sui diritti umani. Questo significa lavorare sui dati, sulla progettazione, sulla regolazione e sulla partecipazione sociale. Per esempio, se sviluppiamo un sistema destinato a una determinata comunità, è fondamentale coinvolgere quella stessa comunità nel processo di progettazione. Abbiamo bisogno di dataset più rappresentativi, team diversificati, audit indipendenti e meccanismi di accountability. È inoltre essenziale introdurre valutazioni di impatto etico e sociale prima dell’implementazione di sistemi ad alto rischio. Allo stesso tempo, dobbiamo riconoscere che alcune disuguaglianze sono strutturali e non possono essere risolte soltanto con la tecnologia. L’IA riflette il mondo nel quale viene addestrata: se quel mondo è diseguale, anche la tecnologia tenderà a riprodurre tali asimmetrie».Che cosa sta accadendo sul piano internazionale?«A livello internazionale stiamo assistendo a un avanzamento molto significativo sia dei quadri normativi sia dei principi etici legati all’intelligenza artificiale. L’Unione Europea, con l’AI Act, sta sviluppando il modello regolatorio più avanzato finora, basato su un approccio fondato sul rischio. Anche l’Unesco ha approvato la Raccomandazione sull’Etica dell’Intelligenza Artificiale, adottata da 193 Stati membri, che incorpora esplicitamente l’uguaglianza di genere, la non discriminazione e la diversità come principi centrali. L’aspetto più interessante è che la Raccomandazione non si limita ai principi teorici, ma include anche due strumenti pratici per la sua implementazione. Il Readiness Assessment Methodology (RAM) è uno strumento diagnostico progettato per aiutare gli Stati a valutare il proprio livello di preparazione nell’adozione di una governance etica dell’IA, includendo dimensioni giuridiche, sociali, istituzionali, scientifiche e di genere. L’Ethical Impact Assessment (EIA), invece, è uno strumento volto a identificare, valutare e mitigare i rischi etici, sociali e relativi ai diritti umani dei sistemi di IA durante tutto il loro ciclo di vita, garantendo l’allineamento con i principi etici dell’UNESCO. Un documento particolarmente rilevante, che ci mostra in parte la direzione verso cui stiamo andando, o almeno quella verso cui vorremmo andare, è la Dichiarazione di Delhi, sviluppata nell’ambito dell’India AI Impact Summit, al quale ho partecipato. Rappresenta un impegno multilaterale per promuovere uno sviluppo e un utilizzo dell’intelligenza artificiale inclusivi, affidabili, sicuri e orientati al bene pubblico, con particolare attenzione alla cooperazione internazionale e alla riduzione delle disuguaglianze digitali. La Dichiarazione si articola attorno a sette pilastri fondamentali, tra cui la governance etica dell’IA, l’inclusione e l’accesso equo alle tecnologie, la tutela dei diritti umani, la sicurezza e la fiducia digitale, lo sviluppo delle competenze, la cooperazione internazionale e la promozione di ecosistemi innovativi centrati sull’essere umano e sullo sviluppo sostenibile. Tuttavia, esiste ancora una forte frammentazione normativa a livello globale. Una delle grandi sfide del nostro tempo è evitare che l’innovazione tecnologica proceda più velocemente della capacità democratica di supervisionarla.Uno dei dibattiti più scomodi sull’intelligenza artificiale riguarda il suo modello estrattivista.«Le risorse naturali necessarie per l’IA — litio, cobalto, terre rare, energia e acqua — provengono in gran parte dal Sud Globale, così come molte infrastrutture ad alto impatto ambientale, come i data center. Tuttavia, i benefici economici, il potere computazionale e la proprietà tecnologica rimangono concentrati principalmente nelle grandi potenze e nelle Big Tech del Nord Globale. A ciò si aggiunge una forma invisibile di sfruttamento umano: migliaia di persone nei Paesi più vulnerabili lavorano per pochi dollari al giorno etichettando immagini, moderando contenuti o addestrando algoritmi, in quella che alcuni definiscono una nuova forma di “schiavitù digitale”. Parallelamente, si sta aprendo un nuovo scenario geopolitico legato allo spazio. Satelliti, infrastrutture orbitali, connettività globale e persino l’estrazione di risorse spaziali stanno trasformando lo spazio in una nuova arena di potere strategico. La governance dell’IA non può quindi limitarsi ai temi dell’innovazione o dell’efficienza, ma deve affrontare anche questioni di giustizia sociale, ambientale e geopolitica. Un ulteriore rischio riguarda il fenomeno del FIMI (Foreign Information Manipulation and Interference). I Paesi con minori livelli di educazione digitale, alfabetizzazione mediatica e capacità tecnologiche, così come quelli con ecosistemi digitali più fragili, risultano molto più vulnerabili agli attacchi di manipolazione informativa e interferenza straniera. Queste operazioni possono influenzare opinioni pubbliche, processi elettorali e dibattiti democratici, traducendosi in forme di ingerenza esterna sempre più sofisticate e nel progressivo indebolimento delle istituzioni democratiche».