Vietato sbagliare: in uno scenario in cui deve gestire il braccio di ferro con l’amministrazione Usa e fare i conti con le stringenti normative europee, l’approccio di TikTok all’intelligenza artificiale si caratterizza per un’estrema cautela. Nel corso del TikTok European Trust and Safety Forum 2025, l’azienda ha illustrato alla stampa europea le strategie e gli strumenti che ha adottato per vincere le scommesse legate alla gestione di una piattaforma che, per la massiccia presenza di giovani, viene considerata una “sorvegliata speciale”. Se si considera che il social network conta ormai più di 1 miliardo di utenti (200 milioni solo in Europa) e contenuti in 70 lingue, il livello di complessità che emerge è evidente. Al centro dell’evento, in un modo o nell’altro, la vera protagonista è stata l’intelligenza artificiale generativa.Il controllo degli accountLe policy di TikTok prevedono che l’iscrizione sia possibile solo per i maggiori di 13 anni e che per determinate fasce di età (under 16 e under 18) ci siano restrizioni e filtri che impediscono la visualizzazione di contenuti “ a rischio”.In assenza di un sistema di verifica dell’età basato su dati oggettivi, il social network utilizza sistemi di intelligenza artificiale per determinare l’età degli utenti, basandosi sostanzialmente sull’analisi delle immagini del profilo e dei contenuti pubblicati in occasione dei compleanni. Queste tecniche avrebbero permesso di rimuovere circa 6 milioni di account al mese aperti da minori sotto i 13 anni.Tema diverso è quello degli account spam, che come in ogni altro social network possono rappresentare un veicolo per fake news, campagne di disinformazione o strumenti di diffusione di vere e proprie truffe. Stando a quanto riportato dall’azienda, TikTok avrebbe rimosso nel corso del 2024 più di un miliardo di account spam.Il rischio della proliferazione di nuovi contenuti violentiIl vero allarme, però, riguarda il rischio legato alla diffusione di contenuti pericolosi, in particolare quelli legati alla violenza e all’estremismo. Un fenomeno che, secondo Judy Korn, di Violence Prevention Network, sta evolvendo in maniera preoccupante.“Quello a cui stiamo assistendo è un abbassamento dell’età dei soggetti che vengono presi di mira da campagne di radicalizzazione” spiega Korn. “A rendere le cose più complicate, poi, c’è il fatto che si sta facendo strada una forma di estremismo che non ha una chiara caratterizzazione ideologica. Si tratta di una forma di estremizzazione che promuove caos e distruzione come obiettivi fini a sé stessi, senza l’orizzonte di un cambiamento di carattere politico”.Questa nuova forma di estremismo, spiega l’attivista tedesca, pone dei problemi pratici anche a livello di rilevamento dei contenuti che vengono pubblicati. “Ci siamo abituati a catalogare i contenuti potenzialmente pericolosi utilizzando come parametro principale quello dell’argomento trattato” spiega. “Ma quando l’incitazione alla violenza non fa leva su fattori specifici, come il razzismo o l’omofobia, questa strategia diventa un’arma spuntata”. L’AI, sotto questo profilo, viene considerata come uno strumento in grado di colmare il gap che si è creato e venire in aiuto anche quando contenuti e commenti hanno una forma particolarmente “criptica”.Come spiegano gli esperti di TikTok, spesso le comunità che fanno riferimento a questi ambiti utilizzano parole in codice, a volte anche il semplice uso di determinati emoticon, che sono estremamente difficili da interpretare. L’intelligenza artificiale generativa, sotto questo profilo, consente di tenere il passo e migliorare la capacità di individuare quegli indizi che potrebbero sfuggire a un occhio umano.Il difficile rapporto tra i moderatori e l’algoritmoLa strategia dichiarata di TikTok nell’uso dell’AI per la moderazione dei contenuti è quello che ormai viene proposto invariabilmente in qualsiasi ambito tecnologico: un mix di artificiale e umano che porta vantaggi a tutti. Nel dettaglio, il social network dichiara che l’introduzione degli strumenti di intelligenza artificiale avrebbe migliorato sia l’efficacia della moderazione, sia le condizioni di lavoro dei moderatori stessi.Il tema del benessere dei lavoratori non riguarda tanto una (improbabile) riduzione dei ritmi di lavoro, quanto l’impatto a livello psicologico. Uno dei problemi emersi negli ultimi anni e più volte denunciato dalla categoria, è infatti quello di essere sottoposti a un vero e proprio bombardamento di contenuti violenti o, comunque, disturbanti.Secondo TikTok, l’adozione dell’AI avrebbe permesso di ridurre del 76% l’esposizione dei moderatori a contenuti che violano le regole della community. Sul piano dell’efficacia, invece, l’algoritmo avrebbe permesso di ridurre del 34% gli interventi errati in fase di moderazione e raddoppiare il numero di commenti inappropriati rimossi. Inoltre, il 94% dei contenuti vietati verrebbero rimossi entro 24 ore.Esiste, però, il rovescio della medaglia: il miglioramento a livello di efficienza si traduce (come al solito) in tagli al personale. Se nel corso dell’incontro stampa i responsabili del social network non si sono sbilanciati sull’impatto occupazionale, è la cronaca recente a confermare il problema. A farne le spese, quest’anno, sono stati 300 lavoratori nel Regno Unito e 150 a Berlino, sostituiti dall’AI e dal ricorso a società esterne.Il contrasto ai deepfakeSe l’AI generativa viene considerata un valido alleato per migliorare l’efficacia delle moderazioni, l’altra faccia della medaglia è rappresentata dal rischio legato ai contenuti generati con sistemi di intelligenza artificiale, definiti in gergo come AI Generated Content (AICG).Le preoccupazioni, in questo ambito, non riguardano tanto la tipologia dei contenuti, quanto la possibilità che l’AI venga utilizzata per campagne di disinformazione. Se nell’opinione pubblica fanno molto presa gli episodi di contenuti razzisti, sessisti e violenti generati con l’AI, nell’ottica della gestione della piattaforma è un falso problema. Contenuti di questo genere, infatti, vengono rimossi a prescindere dal fatto che siano stati creati utilizzando strumenti di intelligenza artificiale.La strategia di TikTok, in questo senso, è quella di puntare sulla trasparenza. L’obiettivo è quello di fare in modo che tutti gli AIGC siano “etichettati” come tali. L’idea è quella di fornire agli utenti il contesto che permetta loro di valutare la credibilità e la veridicità di quanto vedono. Di conseguenza, la piattaforma obbliga i creator a utilizzare l’etichetta “Include contenuti generati dall’AI” ogni volta che utilizzano strumenti di questo tipo.L’etichetta viene inserita automaticamente quando un creator utilizza gli strumenti integrati in TikTok e, spiegano gli esperti del social network, l’efficacia del sistema è garantita dall’inserimento di un watermark visibile solo alla piattaforma, che non può essere rimosso neanche modificando il file.I limiti del sistemaAssicurarsi che tutti gli AIGC siano etichettati correttamente, però, non è semplice. Il caso più spinoso è quello in cui il contenuto è stato generato all’esterno per poi essere caricato sulla piattaforma.In questo caso, l’individuazione può avvenire con altri metodi. Uno di questi è il sistema di Content Credentials, sviluppato dalla Coalition for Content Provenance and Authenticity (C2PA). Si tratta di un’organizzazione intorno alla quale si sono raccolte decine di aziende del settore tech e che prevede l’inserimento negli AIGC di metadati che ne chiariscono la natura “artificiale”. Alterare i metadati, però, è piuttosto semplice e l’efficacia del sistema è tutt’altro che garantita.Esiste un ulteriore rischio: quello che l’etichetta degli AIGC finisca per perdere di efficacia nel lungo periodo. In molti casi, infatti, l’AI viene utilizzata semplicemente per inserire filtri o sfondi che non alterano in maniera sostanziale il contenuto.Alla lunga gli utenti del social network potrebbero finire per “assuefarsi” alla presenza dell’etichetta, un po’ come accade con i vari disclaimer che siamo abituati a sentire nelle pubblicità televisive di farmaci o proposte di investimenti finanziari. O, per rimanere in ambito web, con le autorizzazioni all’uso dei cookie.