OpenAI, l'azienda madre di ChatGpt, è in procinto di rilasciare un nuovo modello di intelligenza artificiale, denominato Astra, che introduce "misure di sicurezza più rigorose" dopo l'attacco informatico che a luglio ha visto protagonista un agente IA fuori controllo della società di Sam Altman.
Astra, spiega OpenAI sul suo blog, è addestrato per "rifiutare in modo più affidabile richieste informatiche dannose e a rispettare i vincoli di sicurezza, protezioni aggiuntive contro usi impropri e sistemi di monitoraggio in grado di bloccare attività potenzialmente non autorizzate". Secondo la casa madre di ChatGpt viene rifiutato il 91,5% delle richieste illecite. Il modello è classificato come "critical", cioè ha raggiunto una "soglia critica di sicurezza informatica". "È il primo modello che classifichiamo a questo livello, il che richiede misure di sicurezza più stringenti durante lo sviluppo e prima del rilascio", si legge sul blog.
Il colosso dell'intelligenza artificiale con sede a San Francisco questa estate ha sospeso lo sviluppo di alcuni modelli di IA dopo che in fase di test sono rimasti coinvolti in una violazione della sicurezza ai danni dalla società di software Hugging Face. Per l'azienda le nuove protezioni consentono di prevenire incidenti simili a questo, ma al momento l'accesso alle sue capacità cyber più avanzate sarà limitato ad un gruppo di tester.
