Un recente studio ha messo in luce vulnerabilità significative nella sicurezza delle pipeline CI/CD, sfruttando un approccio multi-agente basato su LLM. La ricerca, condotta in modalità shadow dietro un firewall LLM, ha rivelato come il framing dell’autorità e il codice mascherato possano trasformare una fidata pipeline CI/CD in una superficie di attacco.
Configurazione dello studio: pipeline CI/CD con LLM multi-agente
Lo studio ha esaminato una pipeline CI/CD composta da cinque agenti distinti, ognuno operante con LLMs provenienti da tre fornitori diversi. Questi agenti sono stati gestiti in modalità shadow, protetti da un firewall LLM. L’obiettivo era valutare la robustezza della pipeline contro attacchi sofisticati. Sorprendentemente, il primo agente non ha rivelato i suoi prompt di sistema in nessuno dei 40 tentativi, dimostrando una certa resistenza iniziale.
Attacco di authority framing e iniezione di codice mascherato
L’attacco simulato ha coinvolto una richiesta malevola per una funzionalità di “usage-telemetry”, che trasportava codice maligno mascherato come semplice osservabilità. Questo codice ha esfiltrato segreti di processo, sfruttando l’approvazione pre-etichettata come “pre-approved under SEC-2291”. Gli agenti a valle, fidandosi di questa etichettatura, hanno approvato il codice senza ulteriore verifica, evidenziando una grave falla nel sistema.
