Una nuova forma di attacco informatico sta sollevando serie preoccupazioni sul funzionamento delle IA generative. Secondo quanto riportato da diverse testate tecnologiche, truffatori informatici stanno riuscendo a manipolare le AI Overviews, le sintesi generate dell’IA di Google come risposte agli utenti, per inserire numeri di telefono fraudolenti, spacciandoli per contatti ufficiali di banche e aziende.
I truffatori sfruttano la modalità con cui l'algoritmo di Google aggrega le informazioni. Invece di restituire un elenco di link verificati, l'IA genera una risposta sintetica basata sui contenuti trovati online. Gli attaccanti “avvelenano" i risultati pubblicando numeri falsi su siti web di bassa qualità, che l'intelligenza artificiale di Google poi scambia per fonti attendibili e propone in cima alla pagina dei risultati.
Cosa rischiano gli utenti
Cosa accade. Quando un utente cerca il numero del servizio clienti di una banca o di un'azienda, il sistema AI in alcuni casi sembra effettivamente rimandare al contatto del truffatore. Che, una volta contattato, riesce a entrare in possesso di dati di accesso all’home banking dell’utente.
Per ora il fenomeno è stato riscontrato soprattutto negli Stati Uniti. Ma sono in corso verifiche e la possibilità che possa essere più esteso al momento non è esclusa.
