La corsa all’intelligenza artificiale va rallentata, siamo andati troppo avanti. È questo il senso delle parole di Dario Amodei, Ceo di Anthropic, affidate a X per spiegare la necessità di ragionare sul futuro. “L’Ai sta progredendo a una velocità drasticamente superiore, trainata soprattutto dalla crescente capacità dell’Ai stessa di sviluppare la generazione successiva di sistemi di intelligenza artificiale. Questa dinamica è nota come ‘recursive self-improvement’ e sta iniziando a manifestarsi in tutto il settore”, ha spiegato Amodei, secondo il quale “se non controllato, tale processo potrebbe superare la nostra capacità di comprendere e governare questi sistemi”.Amodei ipotizza un piano in tre fasi e annuncia che Anthropic fornirà “a valutatori esterni un accesso permanente ai nostri sistemi, equiparabile a quello dei dipendenti, affinché possano verificare il rispetto delle nostre misure di sicurezza, segnalare eventuali incidenti e valutare l’allineamento dei modelli durante la fase di addestramento”. L’esternazione del Ceo di Anthropic è stata condivisa a stretto giro, con due differenti post su X, da Sam Altman, Ceo di OpenAi ed Elon Musk, che è dietro lo sviluppo di Grok. “Concordo con Dario sulla necessità di gestire il ritmo del progresso. L’idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima; adotteremo la stessa strategia”, ha spiegato Altman, aggiungendo: “Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera. È stato uno dei temi centrali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane”.Recentemente si è assistito a un incremento di episodi in cui alcuni modelli di intelligenza artificiale sono riusciti a scavalcare i perimetri di sicurezza durante i test. La gravità della situazione è stata evidenziata all’inizio della settimana da Jacob Coxon, passato da OpenAI ad Anthropic, esperto con tre anni di esperienza nel pre-addestramento di modelli per conto dei due colossi leader del settore, che ha deciso di abbandonare il settore. Il tecnico ha espresso parole di fortissima preoccupazione sull’IA che potrebbe “ucciderci tutti entro la fine del decennio”, mettendo nel mirino la condotta delle grandi aziende del campo: “Nessuna delle due società sta agendo in modo responsabile. Stanno correndo a tutta velocità verso una superintelligenza capace di auto-migliorarsi, mettendo a rischio le nostre vite”. Il nodo centrale della questione risiede proprio nel raggiungimento della superintelligenza, la soglia teorica in cui le facoltà cognitive dell’Ai scavalcano definitivamente quelle dell’uomo.