Roma, 9 set. (askanews) – C’è una probabilità superiore al 10% che nel prossimo decennio l’Intelligenza artificiale possa arrivare a “uccidere tutti gli esseri umani”. A formulare l’inquietante stima è stato Evan Hubinger, responsabile dell’Alignment Science di Anthropic, uno dei ricercatori che all’interno dell’azienda sviluppatrice di Claude studiano proprio come impedire ai sistemi Ia sempre più potenti di assumere comportamenti o di perseguire obiettivi non compatibili con quelli umani.
Hubinger è intervenuto su X dopo le dimissioni da Anthropic del ricercatore britannico Jacob Coxon, 27 anni, che ha accusato le principali aziende del settore di correre verso una superintelligenza capace di auto-migliorarsi senza disporre di garanzie sufficienti sulla sua sicurezza.
“Jacob ha ragione: crediamo davvero, sinceramente, che l’Ia potrebbe uccidere tutti gli esseri umani”, ha scritto Hubinger. “Personalmente penso che la probabilità sia superiore al 10% nel prossimo decennio. Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento della superintelligenza e non siamo chiaramente sulla buona strada per riuscirci”.
Il ricercatore ha successivamente precisato, sempre su X, che il suo allarme non riguarda direttamente i sistemi attualmente disponibili. “Per essere chiari, penso che il rischio derivante dai modelli attuali sia basso”, ha scritto. A preoccuparlo è invece la possibilità che emerga una superintelligenza attraverso un processo di “auto-miglioramento ricorsivo”, uno sviluppo che, secondo Hubinger, starebbe procedendo più rapidamente di quanto previsto.
