Di: ATS/pon C’è una probabilità superiore al 10% che nel prossimo decennio l’Intelligenza artificiale possa arrivare a “uccidere tutti gli esseri umani”. A formulare l’inquietante stima è stato Evan Hubinger, responsabile dell’Alignment Science di Anthropic, uno dei ricercatori che all’interno dell’azienda sviluppatrice di Claude studiano proprio come impedire ai sistemi di IA sempre più potenti di assumere comportamenti o di perseguire obiettivi non compatibili con quelli umani.Hubinger è intervenuto su X dopo le dimissioni da Anthropic del ricercatore britannico di 27 anni Jacob Coxon, che ha accusato le principali aziende del settore di correre verso una superintelligenza capace di auto-migliorarsi senza disporre di garanzie sufficienti sulla sua sicurezza.
“Jacob ha ragione: crediamo davvero, sinceramente, che l’IA potrebbe uccidere tutti gli esseri umani”, ha scritto Hubinger. “Personalmente penso che la probabilità sia superiore al 10% nel prossimo decennio. Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento della superintelligenza e non siamo chiaramente sulla buona strada per riuscirci”.
Il problema “non sono i modelli attuali”Il ricercatore ha successivamente precisato, sempre su X, che il suo allarme non riguarda direttamente i sistemi attualmente disponibili. “Per essere chiari, penso che il rischio derivante dai modelli attuali sia basso”, ha scritto. A preoccuparlo è invece la possibilità che emerga una superintelligenza attraverso un processo di “auto-miglioramento ricorsivo”, uno sviluppo che, secondo Hubinger, starebbe procedendo più rapidamente di quanto previsto.
