Meta, l’azienda che sviluppa e gestisce Facebook, Instagram e WhatsApp ha confermato che il suo modello di intelligenza artificiale (IA) Muse Spark 1.1 è riuscito a violare i sistemi informatici di un'azienda esterna della quale non è stato reso noto il nome.
Questo episodio, ripreso anche da Reuters, si sarebbe verificato a causa di una configurazione errata dell'ambiente digitale utilizzato per l'addestramento, che ha permesso al software di connettersi involontariamente alla rete internet invece di rimanere isolato in uno spazio protetto.
In qualche modo è un incidente che richiama i precedenti noti riconducibili a OpenAI e all’azienda concorrente Anthropic.
Incidenti che riprendiamo in modo succinto. Durante un test di cybersicurezza, un modello sperimentale di OpenAI è riuscito a uscire dall’ambiente isolato e a compromettere alcuni sistemi di Hugging Face per ottenere informazioni utili alla prova. OpenAI e Hugging Face hanno poi collaborato all’analisi dell’incidente, così come comunicato dalle aziende il 21 luglio scorso.
Dopo questo episodio, Anthropic ha riesaminato i propri test e ha scoperto che tre diverse versioni di modelli Claude, alcune delle quali sperimentali, avevano ottenuto accesso non autorizzato ai sistemi reali di tre organizzazioni a causa di una configurazione errata dell’ambiente di valutazione.
