Tra le novità del Digital/AI Omnibus anche il giro di vite dell'Europa contro le immagini sessuali generate con intelligenza artificiale. Un report di UN Women racconta l'ansia e la depressione tra chi subisce la violenza digitale
Il Digital/AI Omnibus, ovvero il settimo pacchetto di semplificazione di alcune norme digitali europee, è al centro di una serie di proposte per rinviare alcune scadenze per i sistemi di intelligenza artificiale classificati ad alto rischio, già inseriti nell'AI Act. A Bruxelles, in seguito all’intesa raggiunta nel trilogo tra Parlamento europeo e Consiglio Ue, sono previste delle novità, una delle quali prevede il divieto di generare deepfake di natura sessuale non consensuale e pedopornografico. Una misura che che non si estende solo l’uso dell’utente finale, ma che cerca di risolvere il problema alla radice e ovvero inibire l'introduzione delle app (le cosiddette nudifier, o nudificatrici) sul mercato o che siano privi di misure ragionevoli per impedirne la creazione.
Più volte abbiamo denunciato la presenza negli annunci pubblicitari su Meta di inserzioni che rimandano ad applicazioni presenti su Play Store (e classificate come PEGI 3) oppure su siti terzi, che permettono la nudificazione delle donne, con l’ausilio dell’intelligenza artificiale. Questi software sembrano riuscire a eludere i controlli e le restrizioni di sicurezza delle piattaforme e, oltre a mettere in pericolo la privacy di chi li utilizza, ledono la privacy, la sicurezza e la salute mentale delle donne che subiscono questo tipo di violenza digitale. Non solo. Questi «strumenti» vengono utilizzati per silenziare e limitare la libertà di espressione di giornaliste, scrittrici e operatrici dei media.
