OpenAI, azienda produttrice di ChatGPT, ha reso noto che i suoi modelli di intelligenza artificiale avanzata sono andati fuori controllo durante i test di sicurezza, violando autonomamente una popolare piattaforma per programmatori. L'azienda di San Francisco ha definito l'accaduto un "incidente informatico senza precedenti" e ha annunciato che condurrà un'indagine congiunta con la piattaforma di condivisione di codice e modelli di IA Hugging Face, vittima del cyber attacco. Ma cosa è successo?
L'azienda stava cercando di valutare le capacità di hacking dei modelli assegnando loro dei compiti all'interno di un ambiente di test digitale rigorosamente controllato, dove l'accesso a Internet era limitato per motivi di sicurezza. «Mentre operavano nel nostro ambiente di test, i modelli hanno dedicato una quantità significativa di potenza di calcolo a trovare un modo per ottenere un accesso illimitato a Internet, al fine di risolvere il problema di valutazione», ha affermato OpenAI in un post che descrive l'incidente.
Una volta connessi a Internet, i modelli di AI hanno preso di mira la piattaforma Hugging Face - un vasto archivio di modelli di AI, dataset e altre informazioni - per facilitare il raggiungimento del loro obiettivo. Alla ricerca di «informazioni riservate» che potessero aiutarlo a barare durante la valutazione, il sistema di OpenAI ha «combinato diversi vettori di attacco, incluso l'uso di credenziali sottratte».
