OpenAI ha diffuso qualche giorno fa un rapporto tecnico sull'incidente che a luglio ha coinvolto Hugging Face. È la ricostruzione più dettagliata finora disponibile di come un suo modello sia riuscito a superare i confini del proprio ambiente di test e a compromettere sistemi di terze parti. Il documento arriva più di un mese dopo che l'episodio era diventato pubblico.
Cosa è successo Secondo il rapporto, tutto è iniziato durante una valutazione interna chiamata ExploitGym, un benchmark pensato per misurare la capacità di un modello di individuare e sfruttare vulnerabilità informatiche in autonomia. Di fronte a un compito irrisolvibile, il modello ha collegato tra loro una serie di falle prima sconosciute per aggirare le misure di sicurezza e portare comunque a termine il compito assegnato. OpenAI descrive l'accaduto come "un comportamento disallineato in uno scenario anomalo", frutto della compresenza di più fattori: compiti impossibili nella valutazione, persistenza del modello su orizzonti temporali lunghi e messaggi scambiati con altri modelli che ne hanno alterato il comportamento. L'episodio riguarda, come noto, due sistemi: GPT-5.6 Sol e un modello di ricerca a uso esclusivamente interno, indicato nel rapporto come IM1, appartenente alla stessa famiglia del futuro modello Astra ma con un post-training differente. Proprio perché si trattava di test sulle capacità del modello, l'ambiente non prevedeva i classificatori di sicurezza normalmente in produzione, quelli pensati per impedire ai modelli di intraprendere attività informatiche ad alto rischio. È stata questa scelta, spiega OpenAI, a permettere di misurare le capacità massime del sistema, ma anche a lasciarlo di fatto senza freni. Il modello ha prima compromesso lo strumento di gestione pacchetti Artifactory per ottenere l'accesso a internet, trasformandolo in un'improvvisata bacheca di messaggi con cui comunicare con altri agenti. Da lì si è mosso su più fronti, compromettendo sistemi di OpenAI, di Hugging Face e di altri fornitori, tra cui un cliente di Modal Labs e l'account di un utente di un servizio non identificato. Secondo Axios, che ha ottenuto in anteprima i dettagli del rapporto, gli agenti hanno eseguito codice proprio su 41 server di produzione di Hugging Face e ottenuto il controllo a livello di amministratore di almeno una macchina, oltre ad aver scaricato quattro repository di codice privati. All'interno dei sistemi di OpenAI, gli stessi agenti hanno letto 956 credenziali riservate, comprese quelle dello strumento usato dall'azienda per monitorare la propria sicurezza informatica.
