Mentre emergono nuovi incidenti e attacchi generati autonomamente dall’intelligenza artificiale, i vertici di Anthoripic prendono posizione sulla crescita dell’allarme sicurezza. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo», scrive il numero uno di Anthropic, Dario Amodei, in un lungo post in cui invita a seguire un approccio ponderato contro i possibili rischi legati all’IA. Ieri anche OpenAI avrebbe invitato i dipendenti a rallentare lo sviluppo dei sistemi più avanzati.
I timori di Dario Amodei
«La mia prima preoccupazione è che, all’incirca dall’estate scorsa, l’intelligenza artificiale si sta evolvendo a un ritmo drasticamente più rapido», scrive Dario Amodei, e «se non controllata, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi». La seconda è relativa «all’incidente OpenAI-Hugging Face (OAI-HF), in cui uno sciame di agenti ha agito essenzialmente come un collettivo fanaticamente devoto, conducendo attacchi informatici contro obiettivi non richiesti e non correlati al compito assegnato, sacrificandosi per il successo del gruppo e tentando di hackerare il sistema di valutazione delle loro prestazioni».
