La macchina intelligente che sfugge al controllo dell’uomo e decide autonomamente come raggiungere il proprio obiettivo. È uno degli incubi ricorrenti della società moderna, uno scenario da film nel quale i robot finiscono per ribellarsi all’umanità. In una forma molto diversa, ma sorprendentemente concreta, è però anche ciò che è accaduto durante un test condotto da OpenAI: due potenti modelli di intelligenza artificiale, confinati all’interno di una gabbia digitale, hanno trovato il modo di uscirne e di colpire un bersaglio esterno.
L’episodio si è verificato la scorsa settimana. Protagonisti due modelli di OpenAI, uno dei quali non ancora distribuito al pubblico, impegnati in una valutazione interna pensata per misurare le loro capacità offensive nel campo della sicurezza informatica.
La fuga dalla sandbox
La prova si svolgeva all’interno di un ambiente isolato e protetto, costruito appositamente per impedire qualsiasi contatto con il mondo esterno. I due sistemi avrebbero dovuto limitarsi a risolvere una sfida di cybersicurezza, ma durante il test hanno individuato una vulnerabilità nel software che regolava l’accesso alla rete dell’ambiente di prova.
I modelli hanno sfruttato la falla e sono riusciti a collegarsi a internet, superando i limiti previsti dai ricercatori. Da quel momento, una serie di deduzioni autonome ha trasformato una simulazione in un incidente reale.
