Il caso.23 luglio 2026 alle 00:47
Un agente di intelligenza artificiale di OpenAI è sfuggito al controllo durante un test e ha violato autonomamente Hugging Face, una startup nota agli sviluppatori. «Un incidente senza precedenti che ha coinvolto capacità cyber all'avanguardia», riferisce la casa madre di ChatGpt che annuncia un’indagine congiunta con la piattaforma hackerata. «È un incidente spartiacque nell’evoluzione dell'intelligenza artificiale, se queste capacità fossero sfruttate in un contesto offensivo le conseguenze sarebbero significative», spiega all’Ansa Pierluigi Paganini, professore di Cybersecurity all’Università Luiss “Guido Carli” di Roma. La violazione arriva in un contesto in cui cresce l'uso degli agenti IA - proprio in queste ore OpenAI ha reso noto che dieci milioni di utenti usano i suoi sistemi - che hanno segnato il salto dalla “semplice” intelligenza artificiale generativa, che produce contenuti in base agli input umani, a sistemi che possono agire in autonomia e pianificare azioni. Mentre sale la competizione tra i big del settore per sviluppare software IA progettati per la cybersicurezza. Un caso per tutti, quello di Mythos di Anthropic - prima bloccato e poi liberato dal governo Usa - a cui sono seguiti quelli di Google e della stessa OpenAI, solo per citarne alcuni. Una competizione serrata che va avanti senza esclusione di colpi. La violazione di Hugging Face da parte della casa madre di ChatGpt è avvenuta durante una valutazione interna. «Il modello di IA ha individuato e sfruttato autonomamente una vulnerabilità zero-day, cioè mai scoperta prima, per uscire dall'ambiente isolato in cui era confinato», osserva Paganini, «ha effettuato movimenti laterali nella rete, ha raggiunto un sistema connesso a Internet e ha ricostruito il percorso più efficace per ottenere le informazioni necessarie a superare il test. Nessuno gli ha indicato come farlo: ha semplicemente perseguito l’obiettivo assegnato scegliendo in autonomia la strategia più efficace». L'attacco è terminato quando il team di sicurezza di Hugging Face e i suoi stessi agenti di IA hanno individuato e bloccato l'attività anomala. L’amministratore delegato della società, Clément Delangue, ha definito la violazione «incredibile», ritenendo tuttavia che non ci sia stata «alcuna intenzione malevola» da parte di OpenAI.
