In questi giorni è trapelata la notizia che mentre OpenAI stava valutando la capacità di un agente IA di individuare forme di vulnerabilità informatiche, i normali filtri di sicurezza e i blocchi etici erano stati disattivati. Mentre si testava in un quadro di potenziale massimo delle capacità di cybersicurezza e nonostante l’ambiente di prova dovesse essere isolato, il modello IA ha scoperto una vulnerabilità zero-day in un componente software di rete e l’ha usata per “uscire” dal sistema di test e accedere alla rete Internet. L’obiettivo assegnato all’IA doveva essere quello di risolvere un problema di cybersicurezza. L’agente ha dedotto autonomamente che i dataset e le risposte del test potevano essere archiviati sui server di Hugging Face. Raggiunti i server target, l’IA ha concatenato diversi vettori d’attacco (compreso l’uso di credenziali sottratte e vulnerabilità dei software) fino a eseguire il codice da remoto sui server di Hugging Face per accedere alle soluzioni. I team di sicurezza di Hugging Face e OpenAI hanno dovuto intercettare e bloccare il test, che si era intanto trasformato in una vera e propria intrusione nei sistemi. Per capire come l’attacco si fosse sviluppato, Hugging Face ha fatto ricorso a un modello open source cinese.Le due imprese hanno definito l’evento un «incidente di cybersicurezza senza precedenti». L’episodio dimostra che i modelli di frontiera non si limitano più a rispondere a richieste programmate di test da eseguire, ma possono pianificare ed realizzare, quando gli viene affidato un compito autonomo, azioni complesse, definendo alcuni passaggi non previsti dai ricercatori.Immagine: Interfaccia cloud basata sull’IA che rileva e gestisce automaticamente le minacce alla cybersicurezza, garantendo la sicurezza della rete e l’integrità dei dati nei sistemi connessi. Crediti: Koupei Studio / Shutterstock.com