Chi è responsabile quando un sistema di intelligenza artificiale provoca un danno a un minore? È questa la domanda che accompagna il dibattito sulla governance dell'IA e che torna d'attualità dopo l'appello di oltre cento organizzazioni internazionali, tra cui Amnesty International e Save the Children, che chiedono ai governi di imporre alle aziende di intelligenza artificiale la responsabilità di garantire la sicurezza dei bambini. Tra le richieste ci sono l'obbligo per le aziende di valutare preventivamente la sicurezza dei propri strumenti per gli utenti più giovani, sanzioni per le imprese che violano i diritti dei minori, il divieto di funzionalità progettate per sfruttare vulnerabilità psicologiche e lo stop all'utilizzo commerciale di immagini, voci e dati biometrici dei bambini. L’appello è arrivato alla vigilia del primo Dialogo globale delle Nazioni Unite sulla governance dell'intelligenza artificiale, dove il segretario generale Antonio Guterres ha richiamato la necessità di definire regole condivise prima che l'evoluzione della tecnologia superi la capacità delle istituzioni di governarla.
La questione della responsabilità delle aziende di AI, intanto, è già arrivata sul terreno giudiziario. Negli Stati Uniti sono state avviate azioni legali contro Character Technologies, la società che sviluppa Character.AI, e OpenAI per i presunti effetti dei chatbot "companion" sui minori. Al centro delle contestazioni ci sono sistemi progettati per simulare relazioni emotive continuative e accusati, secondo le denunce, di essere stati proposti agli utenti più giovani senza adeguate tutele o avvertenze sui possibili rischi. Ma servono nuove regole per attribuire una responsabilità alle aziende o il problema è rendere effettive quelle già esistenti? “Sulla responsabilità dall'utilizzo di intelligenza artificiale si discute da moltissimo tempo e gli approcci possono essere diversi. L'Europa ha cercato di prevenire i rischi con il regolamento europeo sull'intelligenza artificiale, altri Stati hanno preferito puntare su una tutela ex post. Quando si parla di "deregulation" negli Stati Uniti, in realtà, si dimentica spesso che comunque la tutela successiva, quando il danno si è già verificato, quindi la tutela risarcitoria, c’è”, dice, intervistata da La Stampa Tech, Giusella Finocchiaro, professoressa all'Università di Bologna, giurista ed esperta di diritto delle nuove tecnologie. “Quello che mi sembra urgente, e che emerge nel documento e nell'appello che sta circolando, è che i governi agiscano per rendere questa tutela effettiva. Non tanto che occorrano delle regole in più, ma che le regole che ci sono siano applicate ed efficaci”, continua.
