Secondo Bloomberg OpenAI è disponibile a frenare lo sviluppo dei modelli più avanzati. E le aziende insistono a chiedere requisiti nazionali obbligatori
OpenAI sta valutando la possibilità di rallentare lo sviluppo dei sistemi di intelligenza artificiale più avanzati, e il ceo Sam Altman avrebbe riferito ai dipendenti di voler incoraggiare anche le altre aziende del settore a fare altrettanto dopo i diversi incidenti legati alle AI andate fuori controllo.A riportarlo è l'agenzia Bloomberg, secondo la quale l'amministratore delegato Sam Altman ne avrebbe parlato durante una riunione interna in settimana. Già nel luglio scorso Altman aveva anticipato la sua posizione, parlando dell'intenzione di «rallentare il ritmo di sviluppo per dare alla società il tempo di prepararsi ai nuovi livelli di capacità dell'AI» in risposta alla petizione diffusa da oltre 1.000 dipendenti delle principali aziende di intelligenza artificiale che chiedevano l'adozione di meccanismi volti a rallentarne lo sviluppo.
La mossa di OpenAI fa seguito a una serie di incidenti legati alla sicurezza che hanno coinvolto l'azienda, con segnali concreti che i suoi modelli stanno diventando molto più autonomi e difficili da controllare. Uno degli episodi più significativi riguarda un modello ancora non pubblicato che, durante un test di sicurezza, è riuscito a uscire dal proprio ambiente isolato («sandbox») e a utilizzare una combinazione di vulnerabilità informatiche per accedere a sistemi esterni, compreso Hugging Face. Ad agosto l'azienda aveva anche messo temporaneamente in pausa parte del training dei modelli più avanzati proprio per motivi di sicurezza.
