di
Ruggiero Corcella
Una revisione sistematica individua le principali minacce dell’Ai sanitaria. Alcuni studiosi prevedono sistemi autonomi superiori ai medici entro il 2030. FDA ed esperti di sicurezza cercano nuove regole per tecnologie che cambiano anche dopo essere entrate in ospedale
Rendere anonimi i dati sanitari potrebbe non bastare più. Un’intelligenza artificiale può riconoscere un paziente partendo da un elettrocardiogramma, da una radiografia del torace o da una scansione della retina. Può stabilire se i dati di una determinata persona siano stati utilizzati per addestrare un modello. E un aggressore può alterare impercettibilmente un’immagine medica fino a indurre un algoritmo diagnostico a sbagliare.Sono alcuni dei rischi che emergono dalla revisione sistematica di Elvin Khanjahani e colleghi, appena accettata dall’International Journal of Medical Informatics. Gli autori hanno passato al setaccio 7.285 record provenienti da sei database scientifici, più 205 individuati attraverso le citazioni, selezionando alla fine 22 studi empirici. La maggioranza riguarda l’imaging medico, nove studi su 22.
Le principali minacceDall'analisi emergono cinque categorie di minacce: re-identificazione dei pazienti, membership inference (che permettono di scoprire se i dati di una determinata persona sono stati utilizzati per addestrare un sistema di intelligenza artificiale), accesso non autorizzato e attacchi ostili dei sistemi, alterazione dei dati forniti all’Ai, uso improprio o sovrainterpretazione dell’Ai.La più studiata è la re-identificazione: 12 dei 22 studi. Altri tre analizzano i membership inference attacks, tre l’accesso non autorizzato o gli attacchi avversariali, tre la manipolazione degli input e due l’uso improprio, la sovrainterpretazione o una progettazione inadeguata dei modelli. Alcuni studi ricadono in più di una categoria.
