Dopo l'appello di OpenAI al Congresso statunitense di creare dei limiti di sicurezza all'AI, anche la società che ha sviluppato Claude interviene nel dibattito scatenato dall'allarme di un suo ex ricercatore sui pericoli della tecnologia per l'umanità
«Dobbiamo rallentare lo sviluppo dei modelli di intelligenza artificiale». A chiedere un approccio più ponderato per limitare i possibili rischi legati alla corsa tecnologica che sembra non aver freni è uno dei protagonisti della corsa stessa. Dario Amodei, Ceo di Anthropic, ha scritto un lungo post titolato «We Must Pace the Frontier», che possiamo tradurre con «Dobbiamo sorvegliare la frontiera». Il suo intervento arriva a poche ore di distanza da quello del suo primo concorrente, OpenAI. Anche il Ceo dell'azienda dove è nato ChatGpt Sam Altman starebbe valutando la possibilità di prendersi una pausa e chiedere a tutti di fare altrettanto. Tornando alle parole di Amodei, aggiunge: «I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo».
Amodei ha spiegato che lo sviluppo dell'AI è sempre velocità: i progressi che stanno vedendo sono «drasticamente più rapidi» negli ultimi mesi. Ed è ormai in grado di migliorarsi autonomamente, una dinamica nota come «auto-miglioramento ricorsivo». «Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, e pertanto deve essere perseguita con estrema cautela, se mai lo si dovesse fare». Propone poi un piano in tre punti che prevede il monitoraggio indipendente dei modelli di intelligenza artificiale durante la loro fase di sviluppo, una regolamentazione a livello settoriale e una regolamentazione globale.
