Aprendo il sito di un generatore di nudi deepfake, ci si trova davanti a un vero e proprio catalogo degli orrori. Con pochi clic, la piattaforma promette di trasformare una singola fotografia in un videoclip a sfondo sessuale di otto secondi, inserendo donne in contesti pornografici realistici. “Trasforma qualsiasi foto in una versione nuda con la nostra avanzata tecnologia di intelligenza artificiale”, si legge sul portale.Le possibilità di abuso sono moltissime. Tra i 65 “modelli” video disponibili sul sito compaiono filmati del genere "undressing", in cui si spogliano le donne ritratte nelle immagini fornite dagli utenti, ma anche scene esplicitamente sessuali con titoli come "fuck machine deepthroat" e vari video a tema "sperma". Ogni contenuto può essere generato semplicemente pagando una piccola somma; l’aggiunta di audio prodotto dall’AI comporta un costo aggiuntivo.Il sito in questione, che Wired ha scelto di non citare per limitarne la diffusione, avverte gli utenti di caricare solo immagini che sono autorizzati a modificare con l’AI. Quello che non è chiaro è se esistano controlli reali per far rispettare la regola.L'inquietante evoluzione dei deepfake sessualiGrok, il chatbot sviluppato dalla azienda di intelligenza artificiale di Elon Musk, è stato utilizzato per creare migliaia di immagini non consensuali di tipo "undressing" o "nudify", contribuendo a industrializzare e normalizzare ulteriormente la molestia sessuale digitale. È però solo il caso più visibile, e nemmeno lontanamente il più esplicito. Da anni sta infatti crescendo un ecosistema deepfake, composto da decine di siti web, bot e app, che rende semplice come non mai automatizzare gli abusi sessuali basati sulle immagini, materiale pedopornografico compreso. Questa rete e i danni che provoca a donne e ragazze sono probabilmente molto più sofisticati di quanto molte persone immaginino.“Non è più uno spogliarello rozzo e sintetico”, spiega Henry Ajder, esperto di deepfake che monitora la tecnologia da oltre cinque anni. “Parliamo di un livello molto più alto di realismo ma anche di una gamma molto più ampia di funzionalità". Nel complesso, questi servizi muovono presumibilmente milioni di dollari l’anno. “È una piaga sociale, una delle parti peggiori e più oscure della rivoluzione dell’intelligenza artificiale e dei media sintetici”, aggiunge.Nel corso dell’ultimo anno Wired ha seguito da vicino l’evoluzione di vari servizi di nudi deepfake, che hanno introdotto nuove funzionalità e ampliato rapidamente l’offerta di strumenti per la creazione di video dannosi. Ormai i modelli AI che permettono di creare video a partire da immagini (image-to-video) richiedono in genere una sola fotografia per generare brevi clip. Un’analisi di Wired su oltre 50 siti di deepfake, che probabilmente raccolgono milioni di visualizzazioni ogni mese, mostra che oggi quasi tutti offrono video espliciti di alta qualità e spesso mettono a disposizione decine di scenari sessuali in cui inserire le vittime.Nel frattempo, decine di canali e bot dedicati ai deepfake sessuali su Telegram lanciano regolarmente nuove funzioni e aggiornamenti software, tra cui pose e posizioni sessuali differenti. Nel giugno dello scorso anno, per esempio, un servizio di deepfake ha promosso una modalità "sex mode", presentandola in questo modo: "Prova abiti diversi, le tue pose preferite, l’età e altre impostazioni". Un altro servizio ha annunciato l’arrivo imminente di "più stili" per immagini e video, spiegando che gli utenti avrebbero potuto “creare esattamente ciò che immaginano usando descrizioni personalizzate”.“Non è solo ‘vuoi spogliare qualcuno’. È come dire ‘ecco tutte le diverse possibilità’. Sono le pose diverse. Sono le posizioni sessuali diverse”, spiega l’analista indipendente Santiago Lakatos, che insieme alla testata Indicator ha studiato come i servizi di nudify utilizzino spesso infrastrutture delle grandi aziende tecnologiche, generando probabilmente profitti significativi. “Esistono addirittura versioni in cui si può far apparire una persona incinta”, continua Lakatos.La filiera degli abusi digitaliUn’analisi di Wired ha rilevato che oltre 1,4 milioni di account risultavano iscritti a 39 bot e canali Telegram dedicati alla creazione di deepfake. A seguito delle nostre domande, l’azienda ha rimosso almeno 32 di questi strumenti. “La pornografia non consensuale, compresi i deepfake e gli strumenti utilizzati per crearli, è severamente vietata dai termini di servizio di Telegram”, ha dichiarato un portavoce della piattaforma, spiegando che i contenuti vengono rimossi una volta individuati e che lo scorso anno sono stati eliminati 44 milioni di contenuti che violavano le regole interne del servizio.Secondo Lakatos, negli ultimi anni diversi grandi siti di deepfake hanno consolidato la propria posizione sul mercato e oggi offrono Api (cioè interfacce che permettono ad altri servizi di collegarsi direttamente ai loro sistemi) a soggetti che sviluppano generatori non consensuali di immagini e video, favorendo la proliferazione di nuove piattaforme. “Si stanno consolidando acquisendo altri siti o app di tipo nudify”, spiega. “E stanno aggiungendo funzionalità che permettono loro di diventare fornitori di infrastrutture”.I cosiddetti deepfake porno sono comparsi per la prima volta verso la fine del 2017 e inizialmente, richiedevano competenze tecniche. Negli ultimi tre anni, tuttavia, i progressi dell'intelligenza artificiale generativa, insieme alla diffusione di generatori open source sempre più sofisticati, hanno reso la tecnologia più accessibile, più realistica e più semplice da usare.Se i deepfake generici incentrati su politici o conflitti internazionali sono stati utilizzati per diffondere disinformazione, quelli a sfondo sessuale continuano ad arrecare danni diffusi e persistenti a donne e ragazze. Nel frattempo, le leggi pensate per proteggere le vittime procedono a rilento o, in alcuni casi, non sono state nemmeno introdotte.“Questo ecosistema si regge su modelli open source”, afferma Stephen Casper, ricercatore che si occupa di sicurezza e governance dell’AI presso il Massachusetts institute of technology (Mit) e ha documentato l’aumento degli abusi legati ai deepfake e il loro ruolo nella creazione di immagini intime non consensuali. “Spesso si tratta semplicemente di un modello usato per sviluppare un’app, che poi finisce nelle mani degli utenti”, aggiunge.Le conseguenze sulle vittimeLe vittime e le sopravvissute alla diffusione non consensuale di immagini intime, una categoria che comprende sia deepfake che altri contenuti condivisi senza permesso, sono quasi sempre donne. Immagini false e video non consensuali hanno conseguenze profonde, tra cui molestie, umiliazione e una sensazione di "disumanizzazione". Negli ultimi anni i deepfake espliciti sono stati utilizzati per colpire politici, celebrità e influencer sui social media. Ma sono stati anche sfruttati da uomini per molestare colleghe e amiche, e da ragazzi nelle scuole per creare immagini intime non consensuali delle proprie compagne di classe.“In genere, le vittime o le persone colpite da questo fenomeno sono donne e bambini, oppure altre minoranze di genere o sessuali”, spiega Pani Farvid, professoressa associata di psicologia applicata e fondatrice del The SexTech Lab presso The New School. “Come società, a livello globale, non prendiamo sul serio la violenza contro le donne, qualunque forma assuma”.“Esiste un ampio spettro di comportamenti, alcuni responsabili sono più opportunisti e non colgono il danno che stanno causando, questo avviene anche in base a come viene presentato uno strumento di AI”, osserva Farvid, sottolineando che alcuni servizi di “compagni” AI (companion) offrono agli utenti servizi costruiti in base al genere. “In altri casi, invece, si tratta di persone inserite in reti di abusi o in circuiti di abuso sui minori, oppure di individui che già praticano altre forme di violenza, dalla violenza di genere a quella sessuale”.Uno studio australiano guidato dal ricercatore Asher Flynn ha intervistato 25 tra autori e vittime di abusi tramite deepfake. La ricerca individua tre fattori chiave che incidono sulla prevenzione e sulla risposta a un problema ancora in espansione: strumenti di deepfake sempre più facili da usare, la normalizzazione della creazione di immagini sessuali non consensuali e la minimizzazione dei danni provocati. A differenza della diffusione pubblica su larga scala osservata nel caso delle immagini non consensuali create con Grok su X, lo studio rileva che i deepfake espliciti vengono più spesso condivisi in modo privato, direttamente con le vittime o con amici e familiari. “Ho semplicemente usato gruppi WhatsApp personali”, ha raccontato uno degli intervistati agli autori dello studio. “Alcuni di questi gruppi arrivavano ad avere fino a 50 persone”.La ricerca ha individuato quattro motivazioni principali alla base di questo tipo di abusi. Tra i 10 responsabili di abusi consultati, otto si sono identificati come uomini. Alla base delle loro azioni c'erano ragioni che includono l'estorsione sessuale, il desiderio di arrecare danno ad altri, la ricerca di approvazione o complicità all’interno del proprio gruppo e la curiosità verso gli strumenti e ciò che permettono di fare.Diversi esperti interpellati da Wired osservano che molte delle comunità impegnate nello sviluppo di strumenti di deepfake mostrano un atteggiamento sbrigativo o superficiale rispetto ai danni che producono. “C’è una tendenza a considerare con una certa banalità l’uso di questi strumenti per creare immagini intime non consensuali, o persino il semplice accesso, ed è qualcosa di profondamente preoccupante”, spiega Bruna Martins dos Santos, responsabile delle politiche e dell’advocacy presso l’organizzazione per i diritti umani Witness.Per alcuni dei soggetti che commettono abusi tramite deepfake, la tecnologia diventa soprattutto una fonte di potere e controllo. “Vuoi semplicemente vedere che cosa è possibile fare”, ha raccontato una di queste persone a Flynn e agli altri ricercatori coinvolti nello studio. “Quando ti rendi conto di essere capace di creare qualcosa del genere, arriva una sorta di euforia quasi divina”.Questo articolo è apparso originariamente su Wired US.