Per la prima volta in assoluto, una società di intelligenza artificiale generativa ha denunciato un suo utente per la creazione di immagini che ritraggono minori in contesti sessualmente espliciti
Nel mare magnum di un «Far West normativo» (che tutt’oggi imperversa), è arrivato il tempo in cui le stesse aziende di intelligenza artificiale generativa prendono legalmente posizione nei confronti degli utenti che usano in modo illecito i loro modelli AI.
A scagliare la prima pietra in tal senso è xAi, l’azienda di Elon Musk dietro Grok (uno dei più discussi e controversi modelli generativi presenti sul mercato attuale) che avrebbe denunciato un utente per la creazione di immagini pedopornografiche all’interno della piattaforma. Un’azione legale che, per certi versi, rappresenta il culmine di mesi di polemiche in tutto il mondo per l’utilizzo improprio della piattaforma, su cui si è espresso anche il Garante italiano per la protezione dei dati personali. Su Grok e sui limiti troppo blandi delle sue capacità sta indagando anche l'Unione europea, così come lo stato della California.
I dettagli della causa Nella causa depositata martedì 14 luglio presso la corte federale del Texas settentrionale, figura il nome di Terry Wayne Harwood, un uomo di 67 anni della Carolina del Sud che avrebbe violato i termini di servizio e la politica d’uso accettabile della compagnia statunitense. Harwood avrebbe utilizzato diversi account per caricare foto innocue (di minorenni e adulti) all’interno del modello AI, con l’obiettivo di generare deepfake sessualmente espliciti dei soggetti senza il loro consenso, servendosi di prompt testuali capaci di aggirare i sistemi di sicurezza (già aggiornati a gennaio). Tra le richieste avanzate dall’azienda figurano un risarcimento economico (di cui non si conosce l’esatta cifra) e il ban permanente all’utilizzo di Grok nei confronti di Harwood. All’interno della denuncia, la stessa xAI ribadisce di aver rafforzato il suo regolamento interno con sospensioni degli account (solo nel 2026 se ne contano oltre 52.000) e segnalazioni dei materiali sospetti al National Center for Missing & Exploited Children (Ncmec, in acronimo) l’organizzazione statunitense che si occupa della tutela dei minori. A proposito di minori, guardando al loro punto di vista le responsabilità non solo tutte in mano agli utenti. A marzo tre ragazze del Tennessee si sono rivolte a un tribunale per chiedere giustizia contro un uomo che ha sfruttato la loro immagine per creare deepfake proprio con l'AI di Musk. Se il colpevole umano è stato arrestato, la causa propone come colpevole numero uno proprio xAI, la società che ha creato Grok.
