Roma, 16 giu. (askanews) – Anche i sistemi di Intelligenza Artificiale più avanzati oggi disponibili sono vulnerabili ad attacchi dall’esterno. È il risultato di una delle prime valutazioni indipendenti realizzate in Europa sulla sicurezza dei modelli di frontiera, pubblicata dall’Istituto Italiano di Intelligenza Artificiale (AI4I). Lo studio – intitolato “Measuring the Residual Jailbreak Surface of Frontier Large Language Models” e condotto dall’AI Security Lab guidato da Nicola Franco – mostra che i moderni sistemi di protezione neutralizzano gran parte degli attacchi tradizionali, mentre tecniche automatizzate più sofisticate continuano a individuare vulnerabilità e comportamenti indesiderati.
Negli ultimi mesi una parte crescente dell’attenzione pubblica si è concentrata sulle capacità dei modelli più avanzati di individuare vulnerabilità nei sistemi informatici o aggirare difese digitali di imprese e organizzazioni. Una prospettiva altrettanto rilevante riguarda però la sicurezza dei modelli stessi. Per imprese, istituzioni e sviluppatori, comprendere quanto siano resistenti a tentativi di manipolazione e aggiramento rappresenta oggi una delle principali sfide della sicurezza dell’Intelligenza Artificiale.
