Un agente di intelligenza artificiale di OpenAI è sfuggito al controllo durante un test e ha violato autonomamente Hugging Face, una startup nota agli sviluppatori. “Un incidente senza precedenti che ha coinvolto capacità cyber all’avanguardia”, riferisce la casa madre di ChatGpt che annuncia un’indagine congiunta con la piattaforma hackerata. «È un incidente spartiacque nell’evoluzione dell’intelligenza artificiale, se queste capacità fossero sfruttate in un contesto offensivo le conseguenze sarebbero significative», spiega Pierluigi Paganini, professore di Cybersecurity all’Università Luiss Guido Carli.
La violazione arriva in un contesto in cui cresce l’uso degli agenti IA - proprio in queste ore OpenAI ha reso noto che dieci milioni di utenti usano i suoi sistemi - che hanno segnato il salto dalla 'semplice intelligenza artificiale generativa, che produce contenuti in base agli input umani, a sistemi che possono agire in autonomia e pianificare azioni. Mentre sale la competizione tra i big del settore per sviluppare software IA progettati per la cybersicurezza. Un caso per tutti, quello di Mythos di Anthropic - prima bloccato e poi liberato dal governo Usa - a cui sono seguiti quelli di Google e della stessa OpenAI, solo per citarne alcuni. Una competizione serrata che va avanti senza esclusione di colpi.
