Nei lussuosi quartier generali delle aziende che sviluppano l’intelligenza artificiale è scattato l’allarme rosso, e adesso sono in tanti a temere che la situazione sfugga di mano.
Il rischio che i prossimi modelli di intelligenza artificiale agentica siano così avanzati da permettere a chiunque di creare nuovi virus o micidiali armi biologiche sembra non essere più una semplice eventualità. A renderlo ancora più palese è stata la comunicazione di OpenAI sul fatto che centinaia di agenti “sguinzagliati” da due dei suoi modelli avrebbero violato i sistemi di Hugging Face, una piattaforma collaborativa per lo sviluppo dell’intelligenza artificiale, senza aver avuto l’ordine di farlo e al solo scopo di portare al termine un altro incarico che gli era stato affidato.
Il caso Hugging Face non è l’unico segnale arrivato in questi giorni da OpenAI: la società, come riporta Axios, ha appena annunciato un programma da un miliardo di dollari per aiutare infrastrutture critiche, come reti elettriche e acquedotti, a difendersi da attacchi informatici potenziati dall’IA.
A dire il vero, l’allarme era stato già lanciato in primavera da Anthropic, quando furono rese evidenti le capacità informatiche di Mythos, il modello della startup guidata da Dario Amodei, in grado di violare la sicurezza di gran parte dei software e sistemi esistenti, ma da allora poco o nulla è stato fatto nel concreto.
