La scorsa settimana Taylor Swift ha depositato tre richieste di registrazione del marchio per tutelare la propria immagine e la propria voce. Una delle domande riguarda una fotografia molto nota, in cui la popstar è immortalata mentre tiene in mano una chitarra rosa durante un concerto del suo Eras Tour. Le altre due sono invece richieste di “trademark sonori”, legati a due frasi tipiche della cantante: “Hey, it’s Taylor Swift” e “Hey, it’s Taylor”.La mossa di Taylor Swift contro i deepfakeLa decisione di Swift arriva in un momento storico in cui i deepfake generati dall’intelligenza artificiale continuano a diffondersi sui social media, e chiunque rischia che la propria immagine venga sfruttata indebitamente per creare contenuti AI (all’inizio di aprile, un uomo dell’Ohio è stato il primo a essere condannato in base a una nuova legge statunitense che criminalizza i contenuti di questo tipo). È un fenomeno che colpisce soprattutto le celebrità, che sono esposte sia al pericolo di deepfake espliciti che a false sponsorizzazioni realizzate tramite l'AI.Un nuovo rapporto di Copyleaks, un’azienda che si occupa di rilevamento di contenuti generati dall’AI, rivela come recentemente l'immagine di Taylor Swift e di altri personaggi famosi sia stata sfruttata per creare pubblicità ingannevoli. I ricercatori hanno individuato una serie di video sponsorizzati su TikTok che sembrano mostrare Swift, Kim Kardashian, Rihanna e altri mentre promuovono “servizi potenzialmente fraudolenti o dannosi”. I filmati utilizzano quelle che i ricercatori definiscono “voci dal suono realistico” insieme a “filtri pensati per rendere meno evidenti alcuni difetti delle immagini generate dall’AI”.La nuova frontiera delle truffe deepfakeLe inserzioni mostrano Swift e le altre vittime in contesti che richiamano interviste reali, come red carpet o talk show. Ma invece di rispondere a domande, le celebrità generate dall’AI promuovono programmi a premi in cui gli utenti di TikTok vengono pagati per fornire feedback sui contenuti che vengono loro proposti.“Questa settimana mi stavo informando sul tema del comportamento digitale e mi sono imbattuta in una funzione di test chiamata TikTok Pay”, dice una versione deepfake di Taylor Swift in uno degli annunci, realizzato a partire da filmati manipolati di una sua apparizione al Tonight Show di Jimmy Fallon dello scorso ottobre. “Alcuni utenti vengono invitati a guardare video e inviare le proprie opinioni”. La finta Swift prosegue spiegando che il programma è attualmente in fase di lancio limitato e invita gli spettatori a verificare se possono accedervi, aggiungendo: “Se la pagina vi si apre, non pensateci troppo”.Naturalmente, chiunque clicchi sul programma viene accettato in automatico. Questi annunci reindirizzano l’utente verso un servizio di terze parti che, nonostante il nome e il logo di TikTok, sembra essere stato realizzato tramite vibe coding (cioè interamente programmato da un'intelligenza artificiale) con la piattaforma Lovable, il cui marchio compare sia nella pagina che nell’url. A quel punto, spiegano i ricercatori, all’utente viene chiesto di inserire nome e dati personali.Mentre non è chiaro cosa gli inserzionisti intendano fare con tutte le informazioni raccolte attraverso le campagne deepfake basate sulle celebrità, le truffe di questo tipo sono estremamente diffuse. Nella settimana del 20 aprile, l’organizzazione non-profit statunitense Consumer Federation of America ha citato in giudizio Meta, accusando il colosso tech di aver ingannato gli utenti di Facebook e Instagram sui propri sforzi per contrastare queste inserzioni, e di aver anzi guadagnato lasciandole proliferare. Il 27 aprile, la Federal trade commission, l'agenzia statunitense che si occupa di tutela dei consumatori e antitrust, ha riferito che le truffe sui social media sono complessivamente in aumento e che quelle su Facebook sono responsabili delle perdite economiche maggiori.In questo contesto, non sorprende che Taylor Swift e altri personaggi pubblici si stiano muovendo per via legale per prendere le distanze da questo ecosistema economico fraudolento. La popstar non ha parlato pubblicamente delle motivazioni alla base delle sue richieste di registrazione del marchio, ma il danno reputazionale che deepfake ingannevoli e sempre più sofisticati possono arrecare a un brand da miliardi di dollari è diventato difficile da ignorare.Questo articolo è apparso originariamente su Wired US.