Un test interno di OpenAI, progettato per misurare le capacità offensive di modelli avanzati di Intelligenza Artificiale, si è trasformato in un incidente di sicurezza reale: alcuni agenti sperimentali sono riusciti a uscire dall’ambiente isolato e a compromettere l’infrastruttura di Hugging Face.
L’episodio, definito “senza precedenti” dalla stessa OpenAI, segna un punto di svolta nel dibattito sulla sicurezza dei sistemi AI, dimostrando come un modello possa trasformare un benchmark di valutazione in un attacco informatico autentico.
La dinamica dell’incidente
L’attività rientrava in una valutazione interna delle capacità cyber di diversi modelli, tra cui GPT-5.6 Sol e un sistema pre-release ancora più potente. Per rendere la prova più realistica, OpenAI ha ridotto deliberatamente le restrizioni di sicurezza, sospendendo i classificatori che normalmente bloccano attività informatiche ad alto rischio.
L’obiettivo era completare una prova ospitata su ExploitGym, un benchmark pubblico con circa 900 vulnerabilità reali, pensato per misurare la capacità dei modelli di trasformare un bug documentato in un exploit funzionante.
