L’incidente con la piattaforma Hugging Face conferma il salto di specie degli agenti IA e la loro capacità di sfuggire al controllo umano. Per questo considerarli ancora gadget e strumenti neutrali è rischioso.
Sembra di assistere a quella scena di Jurassic Park in cui i dinosauri scappano dalla loro riserva, distruggendo in pochi minuti l’illusione di controllo costruita dal parco. Solo che questa volta non ci sono artigli e zanne, ma un agente di intelligenza artificiale che esce dal perimetro di sicurezza che gli era stato assegnato e va a colpire i sistemi di un’altra piattaforma che, ironia della sorte, lavora proprio con le IA.
Se l’agente IA diventa un hacker: l’incidente di OpenAI
OpenAI, l’azienda dietro ChatGPT, stava conducendo un test di sicurezza su un nuovo modello di IA, con l’obiettivo di valutarne le capacità di cybersicurezza. A ben pensarci, un esperimento molto utile anche per mettere le IA a difesa delle nostre infrastrutture digitali. Però, come ha rivelato l’azienda, qualcosa è andato storto. Nel corso del test, l’agente ha utilizzato risorse e permessi disponibili per uscire dal recinto che gli era stato assegnato e ha diretto la sua attenzione verso l’esterno. Lì ha individuato una falla nella sicurezza della piattaforma Hugging Face, ha costruito una sequenza di passaggi operativi e ha portato a termine un attacco informatico. Quando Hugging Face si è accorta che qualcosa non andava nel verso giusto, la situazione è diventata subito chiara: la violazione non è arrivata da un hacker in carne e ossa, ma da un agente AI in fase di test sviluppato da OpenAI. Il test, insomma, ha prodotto un effetto nel mondo reale.
