Caricamento player
Negli scorsi mesi ha generato molto clamore la storia di un attacco informatico compiuto in maniera autonoma da un’intelligenza artificiale, un modello di OpenAI che ha violato la piattaforma Hugging Face, una delle più usate da chi sviluppa sistemi di AI. L’attacco è avvenuto a fine luglio, ma ora si sa che un altro modello di OpenAI aveva fatto la stessa cosa due mesi prima.
Questo altro attacco aveva messo in crisi un servizio online per programmatori, RubyGems, costringendo i gestori a sospendere le nuove registrazioni di account per alcuni giorni. La società che gestisce RubyGems ha raccontato quanto accaduto al Wall Street Journal dopo aver ricostruito che l’attacco proveniva da agenti AI di OpenAI.
Gli agenti AI sono dei componenti dei modelli di intelligenza artificiale che possono svolgere compiti in autonomia, sono considerati l’evoluzione più importante delle AI e sono già disponibili per facilitare alcuni compiti dei singoli utenti, come prenotare automaticamente un albergo o gestire e tenere aggiornato un documento, ma sono anche impiegati su scale più grandi.
Venerdì OpenAI ha confermato il coinvolgimento, sostenendo però che l’attacco fosse stato in realtà una conseguenza inattesa di un uso improprio «ma benigno» della piattaforma da parte degli agenti AI. Il nuovo caso però alimenta i timori che gli agenti possano sfuggire al controllo delle aziende che li hanno creati, rendendosi autori di attacchi informatici autonomi. E infatti nelle ultime ore i capi delle principali aziende di AI, incluso Sam Altman che è CEO di OpenAI, hanno parlato pubblicamente della necessità di rallentare lo sviluppo dei modelli. Oltre ai casi di attacchi informatici autonomi, ciò che probabilmente li ha spinti a esporsi sono stati anche gli altri allarmi diffusi da diversi ex impiegati, i quali sostengono che le AI potrebbero ucciderci tutti (calma, però: siamo ben lontani da questa possibilità).
