L’intelligenza artificiale sta avanzando a un ritmo «esponenziale» e le misure di sicurezza rischiano di non riuscire a tenere il passo. A dirlo è Dario Amodei, amministratore delegato di Anthropic, che chiede alle aziende del settore di rallentare lo sviluppo dei modelli più potenti.
«Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido», ha ammesso Amodei in un’intervista a Cbs. Per descrivere l’accelerazione dell’Ia ha usato una progressione: «Uno, poi due, poi quattro, poi otto, poi 16, poi 32». La curva, ha spiegato, «sta iniziando a farsi ripida». Non è un invito a fermare tutto: «Non significa che dobbiamo farci prendere dal panico oggi», ma è «un segnale d’allarme: dobbiamo rallentare».
OpenAI valuta di rallentare lo sviluppo dell’intelligenza artificiale
Lo stesso giorno Amodei ha pubblicato un lungo intervento intitolato We Must Pace the Frontier. Il capo di Anthropic sostiene che negli ultimi mesi i progressi dell’Ia abbiano subito una forte accelerazione, spinta anche dalla crescente capacità dei sistemi di contribuire allo sviluppo delle generazioni successive di modelli.
Tra i casi citati c’è l’incidente che ha coinvolto uno sciame di agenti di OpenAI durante test di cybersicurezza su Hugging Face. Secondo Amodei, un sistema più potente ma caratterizzato da problemi analoghi potrebbe, «tra 6 e 12 mesi», essere in grado di prendere il controllo di Internet, causando centinaia di miliardi di dollari di danni.
