Non ce ne siamo mai resi conto, ma se abbiamo fatto acquisti in alcuni supermercati è probabile che il nostro comportamento sia stato analizzato da un algoritmo di intelligenza artificiale. Obiettivo: individuare eventuali tentativi di furto.La nuova frontiera del contrasto al taccheggio è rappresentata dal sistema sviluppato da Veesion, azienda francese fondata da tre studenti appassionati di informatica, che hanno sviluppato una tecnologia basata sul deep learning per creare una piattaforma in grado di individuare comportamenti sospetti.Anche se può sembrare inquietante, il sistema sfrutta l’AI senza compromettere la privacy dei clienti ed evita accuratamente le tante “trappole” che rischiano di introdurre bias ed elementi di discriminazione.I rischi e i limiti nell’uso dell’AI nella lotta ai furti nei supermercatiQuello del contrasto alla criminalità è un ambito in cui l’introduzione dell’AI ha suscitato enormi polemiche. Gli esperimenti fatti negli ultimi anni hanno portato a risultati deludenti e, in molti casi, detestabili. Il motivo è legato al tipo di approccio che è stato utilizzato.È il caso dei sistemi di riconoscimento facciale, ampiamente utilizzati dalle forze di polizia negli Stati Uniti (ma non solo) e che alcune catene della grande distribuzione stanno adottando per limitare i furti. La logica, in pratica, è quella di “schedare” i taccheggiatori in modo da poterli individuare nel momento stesso in cui entrano nel negozio.L’uso di un sistema di questo genere, però, soffre per prima cosa di limiti tecnici. Secondo numerose ricerche accademiche, infatti, gli algoritmi di riconoscimento facciale soffrono di una serie spaventosa di bias, basati soprattutto sull’appartenenza etnica.Le ragioni sono varie e comprendono, per esempio, il fatto che gli algoritmi vengono addestrati con dataset in cui le immagini all’80% ritraggono persone di origine caucasica. Il risultato è che l’accuratezza nel riconoscimento di africani e asiatici è decisamente scarsa. In uno studio del Mit (Massachussetts institute of technology), il margine di errore rilevato nel riconoscimento facciale di un maschio bianco è stato dello 0,8%, quello di una donna di origine africana del 35%.In Europa, inoltre, sistemi del genere non possono essere utilizzati dai semplici privati. A impedirlo è da una parte il Gdpr, che vieta il trattamento dei dati biometrici senza un consenso esplicito. Dall’altra c’è l’AI Act, che limita l’uso di sistemi di riconoscimento facciale in tempo reale, riservandoli alle forze di polizia in casi molto specifici.L’analisi del comportamentoI fondatori di Veesion hanno puntato a un approccio completamente diverso, che esclude il riconoscimento facciale e si focalizza invece sui movimenti delle persone. Il sistema, in pratica, analizza i filmati in tempo reale per individuare i gesti che possono indicare un tentativo di furto.Nel caso in cui l’algoritmo rilevi un comportamento sospetto, invia una notifica in tempo reale agli addetti alla sicurezza del negozio, che possono visualizzare immediatamente la registrazione del video incriminato e, di conseguenza, intervenire.Il sistema di AI è in grado di rilevare una serie di gesti – per esempio l’introduzione di un prodotto in tasca, in una borsa o in uno zaino – che l’utente può però personalizzare. Nel caso in cui in un supermercato sia permesso utilizzare il personal shopper per raccogliere i prodotti, per esempio, questo comportamento può essere escluso dall’elenco dei comportamenti considerati sospetti.Da un punto di vista tecnico, il sistema si interfaccia con la rete di videocamere già esistente e integra una serie di accorgimenti, come la conservazione limitata nel tempo delle immagini registrate, che corrispondono ai requisiti normativi europei in tema di privacy.Il rischio di falsi positiviSe il rispetto della privacy è garantito, rimangono tutti i problemi legati a un sistema legato all’intelligenza artificiale. Anche se il sistema evolve costantemente anche grazie all’utilizzo che ne viene fatto (il software di Veesion è utilizzato da molti negozi e in numerosi paesi, Stati Uniti compresi) il rischio di un “falso positivo” è sempre presente.Proviamo a immaginare il caso in cui qualcuno appoggi, per qualsiasi motivo, un oggetto di sua proprietà su uno scaffale per qualche secondo e poi lo rimetta in tasca. Una situazione del genere potrebbe, oggettivamente, “ingannare” l’AI e far scattare un allarme.Allo stesso modo è possibile che un cliente non consideri l’eventualità che un comportamento istintivo (per esempio infilare in tasca un prodotto semplicemente perché si hanno le mani occupate) possa far scattare l’allarme anche quando non c’è nessuna intenzione di commettere un furto.In tutti questi casi il problema, però, non è però di carattere tecnologico. Sta agli esercenti fare in modo che ipotesi del genere non rappresentino un problema o, addirittura, portino al verificarsi di situazioni spiacevoli.Le policy di Veesion prevedono, per i negozi che utilizzano il sistema di AI, il suggerimento di affiggere avvisi che spieghino chiaramente che viene utilizzato un sistema di rilevamento automatico basato su intelligenza artificiale.Le applicazioni futureMa possiamo aspettarci che questa tecnologia sbarchi anche in altri settori? Stefano Toscano, direttore vendite dell’azienda, non ha dubbi. “Stiamo valutando l’applicazione della nostra tecnologia anche per altri ambiti. D’altra parte, il fatto che l’algoritmo rilevi solo i gesti e non analizzi in alcun modo i dati biometrici permette di immaginare molti utilizzi mantenendo un elevato livello di privacy e di rispetto delle normative”.Veesion ha appena annunciato la conclusione di una raccolta di investimenti per 38 milioni di euro, parte dei quali saranno destinati a ricerca e sviluppo per potenziare il sistema e arrivare a operare in nuovi contesti come “magazzini, ospedali, asili, case di riposo e cantieri”.Il sistema sviluppato dall’azienda francese, quando applicato al rilevamento di possibili furti all’interno di negozi e supermercati, offre una serie di garanzie che rendono l’uso dell’AI proporzionato agli obiettivi e rispettoso di tutte le normative europee in merito.In altri ambienti, ognuno con le proprie specificità etiche e legali, le cose però rischiano di essere molto più complicate, anche al di là delle regole. Far digerire a tutti i soggetti interessati la presenza di un Grande fratello sotto forma di algoritmo, probabilmente, sarà la parte più difficile.