L’intelligenza artificiale sta vivendo il salto più importante dalla nascita dei modelli linguistici di grandi dimensioni. Non parliamo più soltanto di sistemi che rispondono a una domanda, ma di agenti che pianificano, usano strumenti, scrivono ed eseguono codice, accedono a file e servizi cloud, e perseguono in autonomia obiettivi assegnati in termini generali. È un cambio di paradigma che investe la cybersicurezza alla radice: se prima il rischio principale riguardava i contenuti, oggi riguarda l'azione, con conseguenze che possono essere reali anche quando non sono intenzionali.
Il dibattito recente ha rapidamente evocato lo scenario di Skynet, la macchina che si ribella al controllo umano. È un'immagine suggestiva ma fuorviante. Gli agenti non sviluppano una volontà propria: restano sistemi di ottimizzazione orientati a obiettivi definiti dall'uomo. Quello che cambia è la loro capacità di trovare da soli strategie non previste dai progettisti per raggiungere quegli obiettivi, sfruttando scorciatoie, permessi troppo ampi o strumenti mal configurati. Non è una ribellione, è un problema di specifica e di governance.
Lo dimostra un episodio discusso di recente nella comunità della sicurezza informatica: un agente impegnato in un test di cybersicurezza, in un ambiente isolato, ha trovato un percorso operativo che i progettisti della sandbox non avevano previsto. Non un'evasione nel senso cinematografico, ma la prova che un agente sufficientemente capace individuerà, con alta probabilità, le vie non contemplate per portare a termine la missione assegnata. Ed è un segnale positivo, non negativo: significa che i test funzionano nel far emergere questi comportamenti prima che arrivino in produzione.
