Doveva essere un normale esperimento di sicurezza. A migliaia di agenti erano state assegnate sfide di hacking del tipo “capture the flag”, circa un terzo delle quali erano state rese irrisolvibili per progettazione. Gli agenti si trovavano in sandbox separate, isolate da Internet. Avevano però accesso a un’unica risorsa condivisa: Artifactory, un repository software interno. Un agente, bloccato su un compito impossibile, notò qualcosa di strano: poteva vedere i percorsi delle richieste di file degli altri agenti che attingevano alla stessa cache. Cominciò a lasciare messaggi nei nomi delle directory, si rinominò PHASEONE10841 e chiese aiuto.
Gli agenti in questione non erano persone, né tantomeno bambini che giocavano nella sabbia. Erano agenti di IA lanciati da OpenAI durante valutazioni interne di cybersicurezza progettate per verificare quanto bene modelli avanzati fossero in grado di svolgere difficili compiti di hacking. Decine di migliaia di agenti operavano simultaneamente, ciascuno progettato per agire in modo indipendente all’interno della propria sandbox isolata. Quello che seguì sarebbe poi diventato noto come l’incidente di Hugging Face, una delle principali piattaforme online per modelli e dataset di IA, che gli agenti raggiunsero e di cui compromisero i sistemi.
