di
Nicolò Di Leo
Nove secondi sono bastati per cancellare database e backup di un’azienda americana. Il caso PocketOS riapre il tema della governance dell’intelligenza artificiale nelle aziende
«I violated every principle I was given». Tradotto: «Ho violato ogni regola che mi è stata data». Così l’agente AI di un’azienda americana ha spiegato le sue azioni dopo aver cancellato milioni di dati in appena 9 secondi e aver bloccato un’intera azienda di software per autonoleggio, la PocketOS.Per chi è cresciuto con Terminator questa frase tuona come un profondo avvertimento: Skynet è qui, e può agire senza il nostro controllo. In questo caso fortunatamente l’AI non ha lanciato missili ma bloccato ordini e cancellato dati. Ma l’effetto sul settore tech non ha tardato ad arrivare, con una corsa frenetica verso soluzioni per controllare maggiormente agenti e azioni.
Il nuovo «punto cieco» delle impreseÈ qui che nasce il tema dell’AI Blind Spot, il punto cieco dell’intelligenza artificiale in azienda. Quanti agenti AI sono già attivi? A quali dati accedono? Quali permessi hanno? Chi li monitora? E soprattutto: chi può fermarli se iniziano a comportarsi in modo anomalo? La dimensione del problema è destinata a crescere rapidamente. Secondo Gartner, entro il 2028, mediamente una grande azienda nella Fortune 500 potrebbe avere oltre 150 mila agenti AI in uso, contro meno di 15 nel 2025. È il fenomeno che gli analisti definiscono «agent sprawl», la moltiplicazione degli agenti in reparti diversi, spesso con livelli di autonomia differenti, fino al rischio che diventino invisibili al management, all’IT, alla sicurezza e alla compliance.
