Dopo OpenAi, il numero uno Dario Amodei invita in un lungo post a un approccio ponderato
ll numero uno di Anthropic, Dario Amodei, ha invitato a rallentare il ritmo di sviluppo dell'intelligenza artificiale. "Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi continueranno a sembrare rapidi, e dobbiamo fare un uso saggio del tempo che guadagniamo", ha scritto Amodei in un lungo post pubblicato sul suo sito web, in cui ha ricordato anche l'incidente verificatosi a luglio presso OpenAI.
L'appello arriva pochi giorni dopo che un ricercatore di Anthropic, Jacob Coxon, ha annunciato di lasciare la start-up californiana, accusandola di minimizzare il rischio esistenziale che l'IA rappresenta per l'umanità.
Cosa ha detto Amodei
Amodei ha affermato che la tecnologia dell'IA ha registrato progressi "drasticamente più rapidi" negli ultimi mesi ed è ormai in grado di migliorarsi autonomamente, una dinamica nota come "auto-miglioramento ricorsivo". "Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, epertanto deve essere perseguita con estrema cautela, se mai lo si dovesse fare", ha messo in guardia.
