Geoffrey Hinton, uno dei ricercatori che hanno contribuito maggiormente allo sviluppo dell’intelligenza artificiale moderna, ritiene non irragionevole che sistemi molto avanzati possano arrivare a causare l’estinzione dell’umanità. Il premio Nobel per la Fisica del 2024, che ha lavorato per decenni sulle reti neurali artificiali ed è considerato uno dei pionieri delle tecniche su cui si basano molti dei sistemi di IA contemporanei, lo ha detto in un’intervista alla Bbc, nella quale ha chiesto ai governi di accelerare sulla sicurezza e sulla regolamentazione dell’intelligenza artificiale. Hinton ha spiegato che il problema principale è l’assenza di precedenti con cui confrontare quello che sta accadendo. «È una di quelle cose molto difficili da stimare, perché non ci siamo mai trovati davanti a nulla di simile. Non abbiamo mai creato esseri che potrebbero presto diventare più intelligenti di noi. Non sappiamo che cosa succederà».
Secondo il premio Nobel, se un sistema diventasse molto più intelligente degli esseri umani, sarebbe difficile prevedere in anticipo tutti i modi in cui potrebbe provocare conseguenze gravi. Interrogato su scenari concreti, ha citato la capacità di manipolare le persone attraverso la comunicazione, di progettare agenti biologici pericolosi e di condurre attacchi informatici. «La prima cosa da capire è che non ha nemmeno bisogno di poter agire nel mondo reale per provocare devastazioni. Potrebbe causare il caos più completo semplicemente parlando con le persone. Ma sarà anche in grado di progettare virus pericolosi: virus biologici, oltre a quelli informatici. Potrebbe sferrare attacchi informatici devastanti».
