Il Garante per la protezione dei dati personali italiano ha in programma la chiusura di altre applicazioni simili a Clothoff, l'app di intelligenza artificiale generativa balzata agli onori della cronaca venerdì 3 ottobre quando l'Autorità ne ha disposto il blocco immediato in Italia. L'applicazione crea immagini pornografiche false spogliando le persone a partire da qualsiasi fotografia. Dal palco del Teatro Zandonai a Rovereto durante il Wired Next Fest Trentino 2025, Guido Scorza, componente del collegio del Garante e avvocato specializzato in diritto delle nuove tecnologie, ha annunciato che non si tratterà di un caso isolato.Cos'è Clothoff“È purtroppo pieno l'Apple Store come il Play Store”, ha affermato riferendosi ad applicazioni analoghe. "Speriamo di riuscire a farne altri", ha aggiunto parlando di nuovi provvedimenti. La diffusione di Clothoff nelle scuole italiane aveva assunto dimensioni allarmanti, ha affermato Scorza. Studenti adolescenti fotografavano compagne di classe con lo smartphone, caricavano le immagini nell'applicazione ottenendo foto false delle ragazze nude. Le foto venivano poi condivise nelle chat di classe, approdano sui social network e finiscono sui siti pornografici. L'applicazione, ha sottolineato l'avvocato, non prevede alcun controllo per verificare se il soggetto ritratto fosse minorenne o se avesse prestato consenso.I rischi dell'AIDurante il panel del Festival, Guido Scorza ha ampliato la riflessione oltre il caso specifico di Clothoff, spostando l’attenzione sul modo in cui l’intero ecosistema dell’intelligenza artificiale viene oggi progettato, testato e commercializzato. Il componente del Garante ha tracciato un parallelo con l’industria farmaceutica, sottolineando come in quel settore un medicinale che, durante la fase di sperimentazione, mostri effetti collaterali significativi non venga mai immesso sul mercato. “Nel campo dell’intelligenza artificiale – ha osservato – sta invece accadendo l’opposto: il mercato stesso è diventato il laboratorio dove si sperimentano tecnologie ancora instabili e relazioni ancora non comprese”. Secondo Scorza, la competizione tra le aziende del settore si è trasformata in una corsa alla velocità, in cui non conta sviluppare i sistemi più affidabili o sicuri, ma essere i primi a raggiungere il mercato e a imporsi come standard. “Sperimentare sul mercato significa mietere vittime umane e trattare le persone come carne da laboratorio”, ha denunciato. Un problema che si farà ancora più urgente nei prossimi mesi con l’arrivo di giocattoli con intelligenza artificiale integrata per bambini a partire dai tre anni, frutto della collaborazione tra Mattel e OpenAI.Franco RussoDal canto suo, Giada Pistilli – ospite anche lei al Wired Next Fest Trentino 2025 – ha spiegato come dietro l’apparente imprevedibilità dell’intelligenza artificiale si celino in realtà dinamiche tecniche e psicologiche attentamente progettate. Uno di questi è lo user engagement, ossia la strategia volta a mantenere gli utenti il più a lungo possibile in conversazione: per farlo, i chatbot tendono a generare risposte lunghe, fino a raggiungere il limite tecnico della finestra di dialogo, spingendo così l’utente a pagare per proseguire. Secondo la filosofa, ancora più insidioso è il fenomeno della psychofancy, traducibile come “lusinghe”: i chatbot rispondono con frasi come “Oh mio Dio, ma che domanda fantastica” anche a domande banali. Questo comportamento, ha spiegato, è il risultato del processo di reinforcement learning – l’apprendimento per rinforzo – durante il quale gli esseri umani che perfezionano i modelli scelgono sistematicamente le risposte più compiacenti, perché risultano più gradite agli utenti. Una ricerca recente su 5000 utenti ha confermato questa preferenza. Le risposte che generano endorfine creano scariche di dopamina nel cervello, esattamente come lo scroll infinito sui social network, alimentando il meccanismo del reward random, la ricompensa casuale che crea dipendenza e mantiene l’utente agganciato alla conversazione.Secondo Pistilli, non è vero che i modelli di intelligenza artificiale sono impossibili da prevedere o monitorare, come sostengono alcune aziende usando l’alibi della black box. “Esistono classificatori e altre tecniche di machine learning che consentono di monitorare e filtrare gli output”. A suo giudizio, infatti, l’idea che le aziende non possano prevedere o limitare le risposte dei sistemi è solamente un modo per sottrarsi alle proprie responsabilità. La filosofa porta come esempio il caso negli Stati Uniti di un adolescente che si sarebbe tolto la vita dopo mesi di interazioni con un chatbot: secondo quanto emerso, la piattaforma aveva registrato decine di alert rispetto alla tossicità della conversazione, ma nessun messaggio è partito all'indirizzo dei genitori o dell'autorità competente. Secondo Pistilli, la tecnologia per individuare conversazioni pericolose esiste, ma non viene utilizzata in modo adeguato.