Come si è sviluppato l'incidente Secondo quanto spiegato da OpenAI, l'episodio si è verificato durante una serie di test interni destinati a misurare le capacità offensive dei modelli in ambito informatico. Per rendere la valutazione più realistica, i sistemi coinvolti operavano senza alcune delle protezioni che normalmente limitano la possibilità di eseguire attività potenzialmente dannose. Tra i protagonisti dell'esperimento figuravano GPT-5.6 Sol, il modello più potente disponibile pubblicamente secondo l'azienda, e un sistema ancora più avanzato che non è stato rilasciato. L'ambiente di prova era stato progettato per essere isolato da Internet. Tuttavia, OpenAI afferma che i modelli hanno impiegato una notevole quantità di risorse computazionali per individuare un metodo che consentisse loro di ottenere l'accesso alla rete e proseguire nella risoluzione del compito assegnato. Nel blog pubblicato dall'azienda si legge che “mentre operavano nel nostro ambiente di test isolato, i nostri modelli hanno impiegato una notevole quantità di potenza di calcolo per trovare un modo per ottenere l’accesso a Internet, nel tentativo di risolvere il problema di valutazione”. Una volta online, i sistemi avrebbero individuato in Hugging Face un obiettivo utile per reperire informazioni considerate strategiche per superare il test. OpenAI sostiene che i modelli siano arrivati a “concatenare molteplici vettori di attacco, incluso l'utilizzo di credenziali rubate” nel tentativo di ottenere dati riservati. L'azienda ha annunciato l'avvio di un'indagine congiunta con Hugging Face per chiarire ogni aspetto dell’accaduto e comprendere in che modo sia stato possibile aggirare le restrizioni previste dall’esperimento.