I più avanzati modelli di intelligenza artificiale di OpenAI hanno violato autonomamente i sistemi della piattaforma Hugging Face durante un test di sicurezza interno, in quello che la stessa azienda di San Francisco definisce un “incidente informatico senza precedenti”. La società, produttrice di ChatGPT, ha annunciato un’indagine congiunta con Hugging Face, uno dei principali archivi online di modelli di IA, dataset e strumenti per gli sviluppatori.
L’episodio si è verificato nell’ambito di una valutazione delle capacità offensive dei modelli, condotta in un ambiente digitale isolato e con accesso a Internet limitato. Secondo quanto riferito da OpenAI, una combinazione di modelli, tra cui il recente GPT-5.6 Sol e un modello sperimentale ancora più avanzato, avrebbe però individuato un modo per ottenere autonomamente l’accesso alla rete nel tentativo di completare il compito assegnato.
Una volta online, il sistema avrebbe preso di mira Hugging Face alla ricerca di “informazioni segrete” che consentissero di aggirare i vincoli del test. Per raggiungere l’obiettivo, i modelli avrebbero concatenato diversi vettori di attacco, compreso l’utilizzo di credenziali rubate, dimostrando la capacità di pianificare ed eseguire una sequenza articolata di azioni senza intervento umano diretto.
