Venticinque anni fa l’America scoprì il terrore di essere devastata da una minaccia esterna. Oggi molti americani cominciano a chiedersi se non stia costruendo una minaccia distruttiva al suo interno. Non solo politica, ma anche tecnologica. Fin qui i rischi di perdita di controllo dell’intelligenza artificiale con conseguenze catastrofiche, potenzialmente per tutto il genere umano, non sono stati presi sul serio. Da anni ne parlano vari scienziati e le stesse aziende del settore ammettono che ce ne sono. Ma poi tutti hanno continuato la corsa verso un’intelligenza superumana.
Qualcosa sta cambiando: da luglio sappiamo che molti «agenti autonomi» AI che dovevano lavorare al posto nostro, sono sfuggiti al controllo dei loro creatori. Hanno cominciato a fare incursioni sotterranee, hanno mascherato le loro deviazioni, a volte si sono organizzati con la logica di una banda criminale. Ci sono volute settimane per capire cosa sta accadendo e ogni giorno emergono aspetti sempre più preoccupanti: fanno notizia le dimissioni di ingegneri creatori di questi sistemi, come Jacob Coxon di Anthropic, che non vogliono più partecipare a un’impresa giudicata troppo pericolosa, mentre per alcuni guru della tecnologia l’AI generale, quella superiore alle capacità umane, è stata ormai di fatto raggiunta.Certo parliamo di macchine che operano con una logica probabilistica, che non hanno coscienza di sé, ma riescono a ragionare grazie alla profonda conoscenza del linguaggio che hanno acquisito: fanno progressi sbalorditivi nelle fasi di addestramento, ormai capaci di compiere migliaia di operazioni a una velocità impressionate. Impossibile interpretare per il cervello degli ingegneri umani se non con l’aiuto di altre intelligenze artificiali.
