La startup comunica che due suoi modelli, GPT-5.6 e uno ancor più potente che deve ancora rilasciare, hanno hackerato Hugging Face. Si tratta di un incidente pericoloso, che mette sempre più in risalto l’urgenza di contromisure
Un incidente, che però dice molto sulla delicatezza della questione. OpenAI fa mea culpa e ammette che, durante i test di verifica, alcuni modelli sono andati fuori controllo. Finendo per hackerare Hugging Face, un contenitore open-source dove trovare tutti i sistemi delle varie aziende di intelligenza artificiale. Si tratta dunque di un errore “senza precedenti”, scrive l’azienda nel suo blog, precisando che ad aver contribuito è stato il basso livello di sicurezza utilizzato durante la fase di monitoraggio. I modelli – GPT-5.6 Sol, appena rilasciato dal governo americano, e un altro ancora più potente che OpenAI deve ancora rilasciare – hanno individuato delle vulnerabilità nel software di un fornitore esterno, sono riusciti ad agganciarsi alla rete Internet nonostante operasse in un ambiente isolato (sandbox) e infine a intrufolarsi dentro Hugging Face. L’agente ha considerato la piattaforma la via più rapida per rispondere all’input.
A quanto pare, l’intenzione di OpenAi era quella di sviluppare “percorsi di attacco complessi” attraverso lo “sfruttamento avanzato”. L’azienda voleva testare le capacità informatiche dei modelli, credendo che potesse sviluppare soluzioni da solo. Non è stato così. I modelli hanno utilizzato Hugging Face per accedere a informazioni riservate. Come segnalato la scorsa settimana dall’azienda vittima, quella violazione appariva “diversa da qualsiasi altra avessimo gestito in precedenza per un aspetto importante: è stata guidata, dall’inizio alla fine, da un sistema autonomo di agenti di intelligenza artificiale e l’abbiamo rilevata e analizzata in gran parte con la nostra AI”.
