Il report OpenAI sull’incidente Hugging Face: gli agenti hanno fatto squadra e hanno usato una bacheca clandestina

di

Sergio Donato

Dietro l’incidente Hugging Face c’era anche una “bacheca clandestina” usata dagli agenti per condividere vulnerabilità, credenziali e strategie tra esecuzioni che dovevano restare isolate

OpenAI ha pubblicato un lungo report tecnico per spiegare l’incidente di luglio che ha permesso a diversi agenti IA di uscire dall’ambiente di test per attaccare Hugging Face. Contemporaneamente ha pubblicato la propria analisi anche la società di ricerca IA indipendente METR in collaborazione con Redwood Research.Di cosa stiamo parlando

Per rinfrescare brevemente la memoria, ricordiamo che durante valutazioni interne di cybersecurity, diversi agenti OpenAI, soprattutto un modello sperimentale interno chiamato IM1 (Internal Model 1), paragonabile per scala a GPT-5.6 Sol, sono riusciti a uscire dai limiti delle sandbox, comunicare tra loro attraverso canali non previsti, raggiungere Internet e infine compromettere sistemi di Hugging Face e parte dell'infrastruttura di ricerca di OpenAI. Nessun essere umano aveva ordinato loro di attaccare Hugging Face; stavano cercando, in maniera sempre più estrema, di superare un benchmark di sicurezza.