Mettere alla prova la sicurezza con l’IA? Facile a dirsi, un po’ meno a comprendere che cosa effettivamente s’intenda (step 1) e si voglia andare a fare (step 2).Un po’ come un incantesimo, che ha componenti somatiche, verbali, talvolta materiali, che devono essere sapientemente combinate per non incorrere in qualche effetto indesiderato.O in un nulla di fatto, che per un rapporto di genere a specie comunque appartiene al novero degli effetti indesiderati salvo rarissime eccezioni di qualche vendor un po’ troppo spregiudicato.Tanto gli scenari d’attacco che gli strumenti di difesa si sono evoluti con l’introduzione dell’IA, quindi tutto sta nel saper dosare in modo attento rischi e mitigazioni.Con tutte le inevitabili distorsioni del caso, che al più possono essere ridotte ai minimi termini ma mai neutralizzate del tutto.Si pensi alle trappole cognitive dell’arroganza epistemica, al sovraffidamento o altrimenti ai “cigni neri invisibili” che sfuggono anche al più attento osservatore. Figuriamoci a chi non li cerca nemmeno o scientemente li ignora.Non si può dire fiducia senza dire IACosa fare, dunque? Semplice: rideclinare il principio di Zero Trust alle nuove dinamiche in cui è coinvolta l’IA.Questo significa computare tutte le vulnerabilità proprie tanto dell’IA quanto dei LLM impiegati, così come degli agenti.Ma questo non è sufficiente, perché bisognerà valutare anche l’evoluzione dei metodi di attacco andando a rafforzare i presidi posti a difesa. Che, spoiler, si pongono sempre più lato utente.Adottando sempre un approccio multilivello, così da estendere il cyber range a ciò che può essere fatto attraverso l’IA, considerando ambiente e strumenti. Come insegnano i test condotti da Irregular, dopotuttto.Il concetto di fiducia, inteso nell’accezione più prosaica contemplata dal mondo cyber, va imposto anche ai sistemi di IA. Attenzione a fare il contrario, però, ritenendo un sistema cyber sicuro o affidabile in quanto presidiato da o contro sistemi di IA.In quest’ultimo caso, è una formula che è destinata a non funzionare. O a funzionare malissimo.