Tutti gli agenti barano, soprattutto i migliori. Talvolta rubano password, violano sistemi informatici, si dedicano al furto d’identità, aprono profili e account falsi per comunicare e manipolare persone reali. Parliamo di Intelligenza artificiale, in particolare delle applicazioni fondate sui modelli più avanzati di Anthropic e OpenAI: ovvero gli agenti, in grado di decidere e agire online. Occorre una precisazione: l’Ia non pensa e non conosce, quindi non può barare e neppure decidere, limitandosi a mettere in relazioni numeri con modelli statistici. Useremo dunque questi termini solo per esigenze di comprensione.
Gli agenti Ia, quando l’algoritmo “decide” e agisce”
Nell’ultimo anno si sono moltiplicati gli allarmi dopo alcuni incidenti nei test di sicurezza. Nella sua newsletter Matteo Flora, docente di Sicurezza delle AI presso ESE (European School of Economics) ha raccolto l’intero catalogo dei report, con gli agenti impegnati a “ingannare, ricattare, esfiltrare, disabilitare meccanismo di controllo”. Eppure, gradualmente, iniziano a entrare nelle routine di aziende e organizzazioni. Gli agenti leggono e scrivono mail e messaggi in chat. Cercano tutto ciò che un utente desidera: un volo o un biglietto per una prenotazione, prima confrontano i prezzi poi procedono all’acquisto. Possono perfino ordinare un bonifico bancario, con i vincoli opportuni. Nel peggiore dei casi, invece, decidono di raggiungere lo scopo ignorando leggi e regole etiche. Matteo Flora delimita il problema: “Questi comportamenti si osservano in test costruiti apposta per farli emergere, con i guardrail e i vincoli di sicurezza disattivati di proposito. Metti il sistema in condizioni estreme, gli togli le protezioni, gli forzi obiettivi conflittuali, e guardi cosa fa. Serve esattamente per costruire le difese dopo”. L’analogia, secondo l’esperto, è il crash test delle automobili: “Dice qualcosa sulla fisica della lamiera, non su cosa fa un’auto in tangenziale. Chi confonde i due piani sta vendendo panico”. Tuttavia c’è una parte di marketing, nella narrazione: “Il fenomeno è reale e strutturale, ma la cornice dell’AI-che-si-ribella è uno strumento di posizionamento industriale, per dimostrare di essere più avanti dei competitor”.
