Quando l’esperto di disinformazione Tal Hagin ha chiesto a Grok di verificare un post su X che mostrava missili iraniani su Tel Aviv, il chatbot di Elon Musk ha fallito clamorosamente.Il sistema non solo ha sbagliato più volte a identificare il luogo e la data del video, pubblicato originariamente su X l'8 marzo da un media statale iraniano: per corroborare la sua tesi, ha addirittura condiviso un’immagine generata con l’intelligenza artificiale.L’episodio riassume bene l'inaffidabilità di X quando si tratta della guerra in corso in Medio Oriente, dopo che già nelle ore successive ai primi attacchi congiunti sferrati da Stati Uniti e Israele contro l’Iran, il 28 febbraio, la piattaforma era stata invasa da video falsi o ripresi da altri contesti.Con il proseguire del conflitto, la marea non ha fatto altro che aumentare. Negli ultimi giorni la tendenza è stata ulteriormente amplificata da immagini e video generati con l’AI, e Grok ha fornito ripetutamente informazioni errate quando gli è stato chiesto di verificare affermazioni circolate sul social. Le immagini create con l'intelligenza artificiale vengono condivise sia da account con la spunta blu che da funzionari iraniani, nel tentativo di far apparire i danni inferti dalla Repubblica islamica più gravi di quanto siano in realtà.L'ondata di fake news AI su XLa diffusione di strumenti sempre più accessibili per la generazione di immagini e video con l’AI ha portato alla proliferazione di contenuti falsi sempre più sofisticati. Il 2 marzo, per esempio, funzionari e media statali dell'Iran hanno condiviso video generati con l’AI che mostravano un grattacielo in Bahrain in fiamme, abbastanza realistici da sembrare credibili per molti utenti; un'immagine che mostrava un bombardiere statunitense B-2 abbattuto dall’Iran, con soldati americani catturati, ha superato il milione di visualizzazioni prima di essere eliminata; ma ci sono anche "foto" che immortalano la cattura (mai avvenuta) di membri della Delta force americana da parte delle autorità iraniane, che hanno accumulato più di 5 milioni di visualizzazioni prima di essere cancellate.Va detto che non tutti i contenuti di questo tipo sono altrettanto credibili. È il caso per esempio di un video che mostra forze iraniane intente ad assemblare missili all’interno di una grotta, che ha comunque superato il milione di visualizzazioni ed è stato condiviso da diversi account.Il governo iraniano ricorre all’intelligenza artificiale anche per diffondere contenuti apertamente antisemiti. Secondo i ricercatori dell’Institute for strategic dialogue (Isd), che ha condiviso un'analisi con Wired, alcuni profili legati a una rete di propaganda filogovernativa hanno pubblicato su X contenuti generati con l’AI in cui si vedono ebrei ortodossi che guidano soldati statunitensi in guerra o celebrano la morte di militari americani.Diversi account appartenenti allo stesso network hanno anche diffuso un video falso che raffigura una fila di giovani ragazze sfilare davanti al presidente Donald Trump in biancheria intima. Il post è stato rimosso dopo aver raccolto quasi 7 milioni di visualizzazioni, riferisce l'Isd, ma continua a circolare su X attraverso altri account.“Un aspetto distintivo di questa guerra è il forte aumento dei contenuti generati con l’AI che mi trovo a dover smentire”, ha dichiarato Hagin a Wired. “Questo probabilmente dipende dal fatto che l’AI è ormai abbastanza avanzata da ingannare anche i giornalisti e dalla facilità con cui gli utenti possono creare questi contenuti senza alcuna conseguenza. Più a lungo resteremo senza regole sugli abusi dell’AI, maggiori saranno i danni. La diffusione di fake news basate sull’intelligenza artificiale rischia di spingerci oltre un mondo basato sui fatti, se non interveniamo subito”.Quando questa ondata di disinformazione AI ha iniziato a invadere X la scorsa settimana, la piattaforma ha annunciato che avrebbe temporaneamente demonetizzato gli account dotati di spunta blu che pubblicano video di conflitti armati generati con l’AI senza indicarlo chiaramente. L’azienda non ha risposto a una richiesta di commento di Wired, che ha chiesto quanti account siano effettivamente stati oggetto della misura. Fino a poco tempo fa, diversi leader iraniani sembravano iscritti al servizio in abbonamento di X, quello che assegna la spunta blu, aumenta la visibilità dei post e consente agli utenti di guadagnare con i propri contenuti.Su X però continua a godere di ottima salute anche la disinformazione “tradizionale”. Negli ultimi giorni le fake news si sono concentrate sull’attacco contro una scuola elementare iraniana a Minab del 28 febbraio, in cui sono state uccise oltre 168 persone, tra cui 110 bambini. Account filotrumpiani hanno riutilizzato filmati provenienti da altri episodi del conflitto per sostenere la teoria secondo cui sarebbe stato il governo iraniano a lanciare il missile che ha distrutto la scuola. Ma un video diffuso l'8 marzo da un’agenzia di stampa iraniana, e verificato dal New York Times, mostra un missile da crociera Tomahawk colpire una base navale accanto alla scuola. Nonostante Trump abbia sostenuto che anche l’Iran disporrebbe di questi missili, gli Stati Uniti sono l’unico paese attualmente coinvolto nel conflitto a utilizzare i Tomahawk.Non solo XNel frattempo, l'Oversight board di Meta – l'organo indipendente che vigila sui social dell'azienda – ha criticato l’approccio del colosso di Menlo Park all’etichettatura dei contenuti generati con l’AI. Secondo l'ente, il sistema adottato da Meta “non è né abbastanza solido né sufficientemente completo per gestire la scala e la velocità della disinformazione generata con l’intelligenza artificiale, soprattutto durante crisi e conflitti”. In una dichiarazione pubblicata online, Meta ha affermato di accogliere positivamente le conclusioni del board.“Man mano che immagini e video generati con l’intelligenza artificiale diventano sempre più sofisticati, gli utenti potrebbero non dubitare dell'autenticità di contenuti visivi presentati come ‘prove’ a sostegno di tesi filoiraniane, proprio perché appaiono così realistici”, spiega a Wired Isis Blachez, analista dell’organizzazione di monitoraggio dei media NewsGuard. “Anche gli strumenti disponibili per valutare l’autenticità di questi contenuti presentano dei limiti. I sistemi di rilevamento dell’AI per esempio non riescono sempre a riconoscere correttamente i contenuti generati con l'intelligenza artificiale”.Questo articolo è apparso originariamente su Wired US.