Il Threat Intelligence Group (Gtig) di Google ha dichiarato di aver identificato per la prima volta un exploit zero-day sviluppato con l'aiuto di un sistema di intelligenza artificiale. La scoperta arriva in un momento in cui i modelli di AI avanzata stanno suscitando sempre più timori per il settore della cybersicurezza, come dimostra il livello di sofisticazione crescente degli attacchi informatici.Il primo exploit zero-day scovato dall'AIIn un rapporto pubblicato l'11 maggio, l'unità del colosso tech specializzata in cyberminacce spiega che criminali informatici hanno tentato di usare l'exploit zero-day per sferrare un attacco in grado di violare i meccanismi di autenticazione a due fattori (2FA) in uno strumento di amministrazione di sistemi web open-source, di cui non è stato divulgato il nome. Un exploit zero-day è un metodo per sfruttare una vulnerabilità informatica ancora sconosciuta agli sviluppatori e per la quale quindi non esiste ancora una correzione.Il malware descritto dal Gtig, sviluppato con il linguaggio di programmazione Python, è stato progettato per sfruttare una "falla logica semantica" all'interno del sistema bersaglio. Secondo gli esperti di Google, la vulnerabilità è dovuta a un eccesso di fiducia da parte degli sviluppatori, che ha fatto sì che il software non eseguisse alcuni controlli essenziali, portando alla creazione di una falla nella sicurezza.Il team di Google ha rilevato diversi indizi che tradivano il ricorso all'intelligenza artificiale nella creazione del codice dannoso. Tra i segnali c'era un "punteggio Cvss fittizio", un indicatore normalmente utilizzato per misurare la gravità delle falle di sicurezza; ma anche uno stile di programmazione troppo strutturato e convenzionale, una caratteristica spesso riscontrata nei contenuti generati da modelli di AI.Il gigante tech afferma di essere riuscito a bloccare la vulnerabilità. Ma avverte che il caso è la riprova di come l'AI sia già diventata uno strumento importante per i cybercriminali, che stanno utilizzando la tecnologia per identificare e sfruttare le falle di sicurezza in modi sempre più sofisticati."I criminali informatici stanno utilizzando l'AI per ottimizzare varie fasi del ciclo di vita di un attacco. Ciò include lo sviluppo di exploit e malware, l'esecuzione autonoma di comandi, l'esecuzione di ricognizioni più mirate e complete e il miglioramento dell'efficacia delle operazioni informatiche e di ingegneria sociale", afferma il Gtig nel suo rapporto.L'unità della società sottolinea che oggi gli aggressori ricorrono, per esempio, al "jailbreak basato sul phishing" per far sì che l'intelligenza artificiale trovi le vulnerabilità, alimentano i modelli con archivi di dati relativi alle falle di sicurezza e utilizzano strumenti come OpenClaw in modi che suggeriscono "l'interesse a perfezionare i payload generati dall'AI in ambienti controllati per aumentare l'affidabilità degli exploit prima della distribuzione".Quando l'AI è un'arma ma anche un obiettivoIl Gtig segnala inoltre che per i criminali informatici l'intelligenza artificiale non è solo una risorsa preziosa ma anche un obiettivo, dal momento che un numero sempre maggiore di aziende e organizzazioni integra sistemi di AI nelle operazioni critiche."Il potenziale dell'AI è immenso. Con l'avanzare dell'innovazione, il settore ha bisogno di standard di sicurezza per sviluppare e distribuire l'AI in modo responsabile", conclude il team.Il monito di Google si aggiunge agli appelli di diversi sviluppatori di AI, che hanno messo in guardia sulla capacità della tecnologia di pianificare, eseguire e perfezionare attacchi informatici complessi.Alla fine dello scorso anno, Anthropic ha documentato il primo caso di cyberattacco su larga scala eseguito da un sistema di intelligenza artificiale "senza un intervento umano significativo". L'azienda statunitense ha rilevato che Claude Code era stato manipolato da un gruppo di attori presumibilmente legati alla Cina per portare a termine una campagna di spionaggio globale."Un numero sempre maggiore di aggressori utilizzerà senza dubbio le tecniche descritte sopra, il che rende ancora più cruciale condividere le informazioni sulle minacce, migliorare i metodi di rilevamento e rafforzare i controlli di sicurezza", aveva affermato Anthropic all'epoca.Questo articolo è apparso originariamente su Wired en español.