Anche la Casa Bianca sta monitorando l'incidente in cui nuovi modelli di OpenAI hanno violato i sistemi informatici di un'altra azienda
Un interruttore di sicurezza per spegnere un'intelligenza artificiale andata fuori controllo. Dopo l'incidente durante un test di sicurezza in cui un modello di AI sviluppato da OpenAI ha aggirato i controlli e hackerato la piattaforma Hugging Face, i membri del Congresso degli Stati Uniti chiedono maggiore sicurezza. Il democratico Ted Lieu e il repubblicano Nathaniel Moran hanno depositato alla Camera una proposta di legge, «l'AI Kill Switch Act» che obbligherebbe chi sviluppa i sistemi di intelligenza artificiale più potenti a mantenere la capacità tecnica di rallentarli, sospenderli o spegnerli. E soprattutto autorizzerebbe il Dipartimento della Sicurezza interna a ordinare quello spegnimento quando un modello mette a rischio vite umane o l'economia: quello che il testo definisce uno «scenario di perdita di controllo», cioè un sistema che compie un'azione pericolosa che il suo stesso creatore non aveva previsto. «Si tratta di una legislazione urgente e di buon senso per affrontare il problema di un modello di intelligenza artificiale avanzato che è impazzito e ha sfuggito ai suoi limiti», ha scritto Lieu in un post su X.
