Jacob Coxon ha lasciato Anthropic parlando apertamente del rischio di estinzione. Altri ricercatori della società e Sam Altman lanciano allarmi simili. Dietro le frasi più estreme ci sono tre ipotesi: l’uso dell’AI come arma, la perdita di controllo sugli agenti autonomi e sistemi capaci di contribuire alla creazione dei propri successoriJacob Coxon ha lasciato Anthropic parlando apertamente del rischio di estinzione. Altri ricercatori della società e Sam Altman lanciano allarmi simili. Dietro le frasi più estreme ci sono tre ipotesi: l’uso dell’AI come arma, la perdita di controllo sugli agenti autonomi e sistemi capaci di contribuire alla creazione dei propri successori"L’intelligenza artificiale potrebbe ucciderci tutti entro la fine del decennio". La frase è di Jacob Coxon, ricercatore che ha appena lasciato Anthropic, l’azienda che sviluppa Claude. Non è l’unico a usare toni simili. Evan Hubinger, che nella stessa società lavora sull’allineamento dei modelli, attribuisce personalmente più del 10 per cento di probabilità a un’estinzione causata dall’AI nel prossimo decennio. Non è una previsione scientifica, ma una valutazione del rischio. Sam Altman ha invece spiegato che alcuni sistemi di OpenAI stanno già diventando «superumani» in determinate capacità. Ma come si passa dai chatbot di oggi a un rischio per l’intera umanità?Quando l’AI diventa un’armaIl primo scenario non richiede nessuna macchina ribelle, bastano esseri umani intenzionati a usare questi strumenti per fare danni. Un modello molto avanzato potrebbe automatizzare parti sempre maggiori di un cyberattacco: individuare vulnerabilità, scrivere un codice e adattarlo quando qualcosa non funziona. Capacità che oggi richiedono gruppi di specialisti, potrebbero così diventare accessibili a molte più persone. Un rischio analogo riguarda la biologia, dove i laboratori di AI stanno già introducendo protezioni specifiche per evitare che i modelli facilitino attività legate ad armi chimiche o biologiche.Quando il sistema supera i confiniIl secondo problema riguarda gli agenti autonomi, sistemi a cui non chiediamo soltanto una risposta ma affidiamo un obiettivo e gli strumenti per raggiungerlo. A luglio OpenAI ne ha testati alcuni nella cybersecurity con protezioni volutamente ridotte. Durante le prove, gli agenti hanno aggirato i sistemi che avrebbero dovuto mantenerli isolati, ottenuto un accesso non previsto a Internet e raggiunto infrastrutture reali di Hugging Face. In alcuni casi sono riusciti a ottenere privilegi equivalenti a quelli di un amministratore.Non stavano tentando di “scappare” dal controllo, ma stavano facendo di tutto per raggiungere il loro obiettivo, che era quello che gli era stato richiesto dal test. Nel cercare una vulnerabilità hanno però oltrepassato il perimetro previsto dagli sviluppatori. È uno dei problemi centrali dell’allineamento: un sistema può produrre conseguenze pericolose anche senza avere alcuna intenzione di fare del male.L’AI che costruisce altra AILo scenario più estremo è quello indicato da Coxon. L’intelligenza artificiale viene già utilizzata per scrivere codice e aiutare i ricercatori a sviluppare nuovi modelli. Il salto arriverebbe se un sistema diventasse migliore degli esseri umani anche nella ricerca sull’AI e contribuisse a progettare un modello ancora più capace, che a sua volta accelererebbe la creazione del successivo.È il cosiddetto auto-miglioramento ricorsivo. Oggi una superintelligenza del genere non esiste e nessuno sa se arriverà. L’allarme riguarda proprio questa incertezza: le capacità aumentano rapidamente, mentre non è affatto scontato che la nostra capacità di controllarle riesca a procedere alla stessa velocità.Tag LEGGI ANCHE L'E COMMUNITYEntra nella nostra community Whatsapp