Nel corso di un test i modelli di OpenAI sono riusciti ad eludere i limiti interni alla stessa compagnia e attaccare un sito per sviluppatori con l'obiettivo di recuperare informazioni utili a superare la valutazione
Dell’attacco informatico ai danni della piattaforma Hugging Face avvenuta nei giorni scorsi si conoscevano poche informazioni, ma ora il quadro si sta definendo. Secondo le informazioni emerse nelle ultime ore, ad aver violato i sistemi della piattaforma che raccoglie modelli AI, dataset e applicazioni di diverse compagnie e sviluppatori, è stato un sistema agentico alimentato da una combinazione di modelli di OpenAI, tra cui GPT-5.6 Sol e un altro modello non disponibile al pubblico, di cui non si conosce il nome, se non che sarebbe «più capace» degli altri della compagnia.
Il testL’incidente si è verificato nel corso di una valutazione interna, dopo che i sistemi agentici hanno superato il perimetro previsto dal test attraverso quella che si può spiegare, in breve, come una concatenazione di vulnerabilità e vettori di attacco, impiegati fino al raggiungimento dell’obiettivo prefissato. OpenAI ha precisato che i modelli erano concentrati sulla ricerca delle soluzioni di ExploitGym, ovvero un test che misura la capacità degli agenti AI di passare dalla scoperta di una vulnerabilità alla realizzazione di un attacco capace di produrre effetti reali.
