Nuovi allarmi che arrivano dall'interno dell'industria dell'intelligenza artificiale hanno riacceso un dibattito che dura da anni. L'IA avanzata potrebbe sfuggire al controllo umano e minacciare la sopravvivenza dell'umanità? E le aziende che la costruiscono stanno facendo abbastanza per impedire che accada?
PUBBLICITÀ
Il CEO di Anthropic, Dario Amodei, ha dichiarato sabato che il settore deve rallentare. Ha avvertito che uno sciame di agenti di IA potrebbe prendere il controllo di internet nel giro di sei mesi o un anno, a meno che le aziende non introducano tutele più solide.
Amodei ha presentato un piano per le aziende di IA e i governi, per mantenere i modelli sempre più sofisticati allineati ai valori umani. Il suo avvertimento è arrivato pochi giorni dopo che due ex ricercatori sulla sicurezza di Anthropic hanno dichiarato pubblicamente che i rischi esistenziali posti dall'IA non ricevono abbastanza attenzione.
I modelli di IA stanno diventando più potenti
