Dopo gli scenari apocalittici prospettati da diversi ricercatori ed ex.dipendenti, Dario Amodei di Anthropic pubblica tre proposte per rallentare lo sviluppo dell’IA e aumentare i controlli sulle macchine prima che possano sfuggire dal nostro controllo. D’accordo anche Musk e Amodei, ma trasformare la teoria in pratica sarà una sfida decisamente complessa.
Un giorno dopo Sam Altman, anche Dario Amodei, cofondatore e CEO di Anthropic, chiede di rallentare la corsa all'intelligenza artificiale. Non di fermarla, né di rinunciare ai suoi benefici, ma di concedere a sicurezza, test e controlli il tempo necessario per tenere il passo con la crescita delle capacità dei modelli prima che diventi un'arma dal potenziale distruttivo pressoché infinito. La presa di posizione è per certi versi sorprendente e arriva dopo l'allarme lanciato da Jacob Coxon, ex ricercatore di OpenAI e Anthropic che ha lasciato il settore sostenendo che i laboratori stanno correndo verso sistemi sempre meno controllabili, capaci di minacciare seriamente la sopravvivenza dell'umanità nel giro di pochi anni.
Amodei non vuole ovviamente distruggere quanto costruito finora. "Se utilizzata con attenzione, l'IA può essere l'ultima di una lunga serie di meraviglie tecnologiche che hanno elevato e nobilitato l'umanità", conferma nel suo manifesto dal titolo Pace the frontier (traducibile come: "Moderare il passe della frontiera"). Il punto è però quanto velocemente stia aumentando la potenza dell'intelligenza artificiale rispetto alla capacità degli uomini di gestirla e governarla. "Nel giro di 6-12 mesi una rete di agenti IA potrebbe prendere il controllo di Internet", avverte Amodei. Da qui la proposta, articolata su tre punti essenziali, per imporre una sorta di pausa forzata a tutti i grandi player del settore per aumentare i controlli, pensare nuove regole e stabilire una rete di coordinamento globale per scongiurare gli scenari apocalittici paventati da Coxon e molti altri addetti ai lavori. Perché Amodei vuole rallentare la frontiera dell'intelligenza artificiale La riflessione di Amodei parte da una consapevolezza poco rassicurante. I modelli IA stanno già iniziando ad aiutare nella costruzione della generazione successiva di macchine intelligenti. Possono accelerare la ricerca, affinare la programmazione, scegliere i dati d'addestramento e ottimizzare gli schemi automazione interna. Una gran cosa dal punto di vista dell'efficienza produttiva, ma significa anche che la componente umana sta perdendo il controllo diretto sulla tecnologia che nei prossimi mesi regolerà le nostre vite.
