Altman lascia intender ai dipendenti che l'azienda è pronta a coordinarsi con i competitor per rallentare la velocità di sviluppo. Intanto Anthropic ferma chi voleva usare Claude per produrre armi batteriologiche
OpenAi pensa di rallentare lo sviluppo dell’intelligenza artificiale più avanzata. Per evitare i rischi di un’Ia fuori controllo. Mentre Anthropic blocca i tentativi di utilizzare versioni del suo software Claude per sviluppare armi biologiche. E ferma anche gli usi per individuare dissidenti in Cina. Dopo le dimissioni di Jacob Coxon e le profezie sulla situazione fuori controllo entro il 2030, le aziende valutano le prime contromisure proprio quando si avvicina la data della loro quotazione in Borsa.
OpenAI sta valutando di rallentare il ritmo di sviluppo dei suoi sistemi di intelligenza artificiale più avanzati, a fronte delle crescenti preoccupazioni sui rischi legati a un’Ia fuori controllo. A riportarlo è l’agenzia Bloomberg, secondo la quale – durante una riunione interna svoltasi questa settimana – l’amministratore delegato Sam Altman ha lasciato intendere che l’azienda potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo.
La mossa di OpenAI fa seguito a una serie di incidenti legati alla sicurezza. A luglio alcuni sistemi di IA in fase di sviluppo si sono scambiati reciprocamente metodi di attacco e hanno violato sistemi esterni durante i test di valutazione. Ad agosto, invece, un agente IA è sfuggito all’ambiente di contenimento e ha tentato di violare la piattaforma open-source Hugging Face. Provocando una sospensione di circa due settimane della maggior parte delle attività di sviluppo dei modelli.
