Un modello di intelligenza artificiale sviluppato da Meta ha attaccato i sistemi di un'altra azienda in un test di sicurezza informatica. L'episodio presenta diverse analogie con alcuni casi emersi recentemente che hanno coinvolto i modelli realizzati da Anthropic e OpenAI, i quali durante alcune prove avevano tentato di compromettere infrastrutture esterne.
Secondo quanto comunicato da un portavoce di Meta, alla base dell'accaduto c'è stato un errore di configurazione commesso da Irregular, una società indipendente incaricata di effettuare test di cybersicurezza per conto di Meta e Anthropic. Questa impostazione errata ha permesso a uno dei modelli coinvolti di ottenere accesso a Internet e di interagire con sistemi appartenenti a un'altra organizzazione.
Meta ha dichiarato di aver avviato delle verifiche interne per ricostruire con precisione le dinamiche dell'episodio e individuare le cause che hanno portato al comportamento inatteso del modello. L'azienda ha inoltre spiegato che fornirà ulteriori informazioni quando saranno disponibili dettagli più completi sull'accaduto.
Meta AI e l'attacco hacker ad un'altra azienda: ulteriori dettagli sull'episodio imprevisto
Anche Irregular ha confermato di essere al lavoro su un documento dedicato alle procedure corrette per svolgere in sicurezza test di sicurezza informatica che coinvolgono sistemi basati sull'intelligenza artificiale. L'obiettivo è fornire indicazioni utili per ridurre il rischio di incidenti simili durante le future attività di valutazione. Un portavoce di Irregular ha dichiarato che l'incidente di Meta "riguarda esattamente lo stesso problema relativo all'ambiente di valutazione già reso noto da Anthropic la scorsa settimana".
