Gli algoritmi che proteggono i modelli linguistici hanno un punto debole strutturale: quando si opera in un contesto hard-label, dove il sistema restituisce solo l’etichetta finale senza probabilità o punteggi interni, generare attacchi avversari testuali di alta qualità con un numero limitato di query diventa un problema quasi intrattabile. Un paper firmato da Shixin Guo e altri ricercatori affronta questo nodo con un approccio radicalmente diverso da quelli dominanti.
Summary
Punti chiaveSfide nella generazione di testi avversari in scenari hard-labelLimiti degli algoritmi greedy e della ricerca localeL’impraticabilità della ricerca esaustivaLBA: un metodo basato su sampling per attacchi avversari testualiConoscenza prior e posterior nel processo di samplingAggiornamento dinamico della distribuzione durante il samplingValidazione sperimentale dell’efficacia di LBAPerformance su sei modelli linguistici e quattro datasetValutazione semantica tramite large language modelFAQPerché generare testi avversari con un basso budget di query è così difficile?In che modo LBA migliora la generazione di attacchi avversari rispetto ai metodi esistenti?Quali prove dimostrano che LBA supera i metodi avversari precedenti?LBA mantiene la qualità semantica dei testi avversari generati?
