Un singolo malintenzionato, supportato da modelli di intelligenza artificiale generativa, è riuscito a costruire una macchina semi-automatizzata capace di produrre propaganda, gestire infrastrutture offensive e orchestrare truffe legate alle criptovalute. È quanto emerge dall'ultima ricerca pubblicata da Trend Micro attraverso la divisione TrendAI, che descrive una campagna durata anni e indirizzata principalmente verso utenti statunitensi vicini all'universo MAGA e QAnon.
L'operazione, identificata con il nome "American Patriot", ruotava attorno al canale Telegram @americanpatriotus, che avrebbe raggiunto circa 17.000 iscritti, e a un account parallelo su Truth Social. Secondo i ricercatori, il responsabile sarebbe un cybercriminale russo che ha sfruttato modelli linguistici avanzati per impersonare un presunto veterano americano patriottico, evitando al tempo stesso costruzioni linguistiche riconducibili al russo.
L'aspetto più interessante della vicenda riguarda il ruolo centrale dell'intelligenza artificiale. Il threat actor avrebbe infatti utilizzato versioni "jailbroken" di Google Gemini per aggirare le protezioni integrate del modello e ottenere supporto in attività offensive: dalla generazione automatica di contenuti propagandistici fino all'assistenza per il furto di credenziali, la gestione di server remoti e la creazione di strumenti dedicati alle truffe crypto.
