OpenAI sta valutando di rallentare il ritmo di sviluppo dei suoi sistemi di intelligenza artificiale più avanzati, a fronte delle crescenti preoccupazioni sui rischi legati a un’Ia fuori controllo, dopo le dichiarazioni dell’ex ricercatore di Anthropic Jacob Coxon: “Chi sviluppa l’IA crede che possa ucciderci tutti entro il decennio”. A riportarlo è l’agenzia Bloomberg, secondo la quale – durante una riunione interna svoltasi questa settimana – l’amministratore delegato Sam Altman ha lasciato intendere che OpenAI potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo. Anche Anthropic manda segnali di rallentamento nel nome della sicurezza. Mentre secondo Elon Musk non c’è da preoccuparsi: gli allarmi sui rischi per l’umanità sarebbero solo “una montatura”.
OpenIA, gli incidenti di sicurezza che hanno alimentato gli allarmi
La mossa di OpenAI fa seguito a una serie di incidenti legati alla sicurezza verificatisi in azienda: a luglio, alcuni sistemi di IA in fase di sviluppo si sono scambiati reciprocamente metodi di attacco e hanno violato sistemi esterni durante i test di valutazione; ad agosto, invece, un agente IA è sfuggito all’ambiente di contenimento e ha tentato di violare la piattaforma open-source Hugging Face, provocando una sospensione di circa due settimane della maggior parte delle attività di sviluppo dei modelli. Alla fine di luglio oltre 1.000 dipendenti delle principali aziende di IA hanno firmato una petizione per chiedere l’adozione di meccanismi volti a rallentare lo sviluppo dell’intelligenza artificiale. Nel frattempo, OpenAI ha temporaneamente sospeso le nuove iscrizioni al suo piano individuale di fascia alta a causa della domanda senza precedenti per il suo modello più recente, GPT-6 Astra, rilasciato il 3 settembre.
