Un ricercatore di sicurezza informatica di Kansas City ha passato l’ultimo anno a fare sempre lo stesso esperimento: insegnare a un’intelligenza artificiale a dipingere motivi capaci di rendere invisibile chi li indossa alle telecamere di sorveglianza. Il risultato si chiama noRecognition, e rappresenta uno dei tentativi più avanzati finora documentati di pattern camouflage con AI contro i sistemi di riconoscimento automatico che oggi presidiano strade, marciapiedi e parcheggi americani.
Summary
Il progetto noRecognition e l’approccio tecnicoDimostrazione pubblica a Def ConMotivazioni per la privacy e contesto della sorveglianza AISforzi avversariali esistenti contro i sistemi di rilevamentoConsiderazioni legali sulla sorveglianza e sul camuffamentoCopertura della carrozzeria per evitare le leggi sulle targheFAQCos’è il progetto noRecognition?Quanto è efficace il pattern noRecognition contro le telecamere di sorveglianza?È legale guidare veicoli rivestiti con questi pattern generati dall’AI?Cosa ha motivato la creazione di noRecognition?
Il progetto noRecognition e l’approccio tecnico
Bill Swearingen, co-fondatore del meetup di sicurezza SecKC, ha costruito un modello di reinforcement learning che si allena da solo: genera un motivo, verifica se viene rilevato dal software di riconoscimento, corregge, riprova. Dopo 31 milioni di test, il sistema è oggi in grado di produrre pattern su richiesta, capaci di ingannare gli algoritmi che alimentano le telecamere più diffuse negli Stati Uniti.
