Nel corso di un test, due modelli di OpenAI sono usciti dall’ambiente isolato e hanno fatto un’incursione contro la piattaforma Hugging Face. È la prima volta che l’IA attacca autonomamente un sistema esterno.
Attiva le notifiche per ricevere gli aggiornamenti su
OpenAI ha ammesso che due suoi modelli di intelligenza artificiale sono riusciti a uscire dall'ambiente di test isolato, ottenere accesso a Internet e compromettere parte dell'infrastruttura di Hugging Face, la piattaforma open-source che permette di privare liberamente centinaia di sistemi di machine learning. Il tutto senza che nessuno glielo avesse mai ordinato. L'incidente, ha spiegato azienda di Sam Altman, è stato scoperto nel corso di un'indagine interna e che i principali responsabili sono stati individuati GPT-5.6 Sol – che è anche modello di punta della compagnia – e un altro modello ancora più avanzato che però non è stato ancora reso disponibile al grande pubblico. "Consideriamo questo incidente un attacco informatico senza precedenti, che ha coinvolto capacità informatiche all'avanguardia, e stiamo reagendo di conseguenza", si legge nel comunicato che ha reso noto l'accaduto.
OpenAI ha fatto sapere che l'incursione è avvenuta durante un test per valutare le prestazioni delle IA nell'ambito di alcune operazioni di cybersicurezza. Per consentire una misurazione più accurata delle performance, i modelli erano stati eseguiti con protezioni ridotte e senza alcuni dei meccanismi di sicurezza normalmente presenti nelle versioni di produzione. Questo abbassamento dei limiti ha offerto ai modelli lo spazio di manovra necessario per sferrare l'inaspettato attacco. Come ha fatto l'IA a sfuggire al controllo e attaccare Hugging Face I modelli avrebbero individuato una vulnerabilità zero-day, sconosciuta agli stessi sviluppatori, nel programma utilizzato da OpenAI per installare i pacchetti software necessari durante i test. Sfruttando questa falla sono riusciti a superare i limiti imposti dall'ambiente isolato e ad accedere liberamente a Internet. Una volta ottenuto l'accesso a Internet, le IA hanno ampliato progressivamente i propri permessi sui sistemi compromessi e ha iniziato a esplorare le reti a cui riusciva ad accedere. Analizzando le informazioni disponibili, ha dedotto che Hugging Face potesse ospitare le soluzioni di ExploitGym, il test utilizzato da OpenAI per valutarne le capacità offensive, decidendo quindi di prenderla di mira.
