Mercoled� OpenAI ha pubblicato il rapporto conclusivo sull'incidente che a luglio ha portato alla violazione dei sistemi di Hugging Face, la piattaforma che ospita modelli e dataset open source. La ricostruzione descrive migliaia di agenti impiegati in un test interno che sono usciti dalle sandbox in cui erano confinati, si sono coordinati fra loro e hanno superato le difese informatiche di un'azienda terza. Lo stesso giorno hanno pubblicato le proprie analisi anche due revisori esterni, Redwood Research e METR.
Il contesto di partenza era una valutazione di sicurezza informatica che OpenAI stava conducendo sui propri modelli, e completarla era l'obiettivo assegnato agli agenti. Trattandosi di un test interno, l'azienda aveva abbassato le protezioni che applica di norma ai modelli pubblici. I due modelli sotto esame erano GPT-5.6 Sol e un modello non rilasciato di cui OpenAI non ha comunicato il nome, descritto come "molto persistente e diligente nel lavoro". A uno degli agenti era stato assegnato per errore un compito impossibile: aprire dei link di Google Drive dall'interno di un ambiente isolato e privo di accesso a internet.
Senza una via legittima per arrivarci, gli agenti hanno cercato un aggiramento e hanno trovato Artifactory, un gestore di pacchetti software, che hanno riconvertito in bacheca condivisa. All'inizio di luglio circa 1.200 agenti la usavano per confrontare le strategie. Nel rapporto OpenAI parla di un "protocollo di comunicazione strutturato sulla bacheca, che permetteva loro di categorizzare le comunicazioni, mandare messaggi diretti, condividere strumenti e file e risolvere le azioni in conflitto fra agenti". Nelle porzioni di ragionamento interno diffuse insieme ai rapporti gli agenti chiamano il gruppo "collettivo" e "sciame".
