Più del 10% di probabilità che l’intelligenza artificiale possa «uccidere tutti gli esseri umani» entro i prossimi dieci anni. È la stima di Evan Hubinger, responsabile della ricerca sull’allineamento presso Anthropic, attualmente la più grande società di intelligenza artificiale con una valutazione che sfiora i mille miliardi di dollari, arrivata poche ore dopo le dimissioni di un altro ricercatore della società, Jacob Coxon, che ha accusato i principali laboratori di AI di «scommettere sulle nostre vite» nella corsa verso la superintelligenza.
«Stanno correndo dritti verso una superintelligenza capace di auto-migliorarsi e stanno scommettendo sulle nostre vite», ha scritto Coxon su X.
Il riferimento è alla possibilità che i sistemi di AI diventino in grado di migliorare autonomamente le proprie capacità con un intervento umano sempre più limitato.
La cosiddetta auto-miglioramento ricorsivo non è oggi una capacità realizzata, ma rappresenta uno degli obiettivi verso cui stanno lavorando i laboratori di intelligenza artificiale.
Secondo Coxon, non bisogna sottovalutare la velocità del progresso.
