Sull’intelligenza artificiale, l’ultimo allarme arriva da Volker Türk, Alto Commissario delle Nazioni Unite per i diritti umani, che ha chiesto alla comunità internazionale di accelerare la definizione di regole comuni per governarne lo sviluppo. Aprendo la 63ª sessione del Consiglio per i diritti umani delle Nazioni Unite a Ginevra, Türk ha affermato di condividere le preoccupazioni di alcuni esperti secondo cui l’IA avanzata potrebbe rappresentare un rischio esistenziale per l’umanità. Il suo appello è rivolto soprattutto alla necessità di intervenire prima che i sistemi diventino troppo potenti per essere controllati efficacemente.“Un’IA che fugge dal proprio ambiente di test o che ricatta gli sviluppatori per evitare di essere disattivata è un’IA troppo potente”. Türk ha sottolineato così la necessità di introdurre garanzie solide per la sicurezza dell’intelligenza artificiale, coinvolgendo governi, aziende tecnologiche e ricercatori. Secondo l’Alto Commissario, il dibattito sull’IA non può concentrarsi soltanto sulle sue potenzialità economiche e tecnologiche. La questione riguarda anche i diritti fondamentali, la democrazia, il mondo del lavoro e la sicurezza delle persone.A preoccupare è soprattutto l’evoluzione dei sistemi più avanzati. Negli ultimi mesi sono stati segnalati episodi che hanno coinvolto aziende come OpenAI, Anthropic e Alibaba. In alcuni casi agenti di IA avrebbero oltrepassato i limiti previsti durante determinate attività, sollevando nuove domande sulla capacità degli sviluppatori di prevedere e controllare ogni comportamento dei sistemi più avanzati.Il problema si inserisce in una competizione globale nella quale le grandi aziende tecnologiche stanno investendo enormi risorse per sviluppare modelli sempre più potenti. Secondo Türk, la velocità della corsa all’innovazione rischia però di essere superiore a quella con cui governi e istituzioni riescono a elaborare regole adeguate. L’Alto Commissario ha annunciato che scriverà alle aziende del settore per invitarle ad adottare immediatamente tutte le misure possibili per ridurre i rischi. La sicurezza dell’IA, secondo le Nazioni Unite, deve quindi diventare una priorità già durante lo sviluppo dei sistemi.Nel suo intervento, Türk ha sollevato anche il tema della concentrazione del potere nelle mani di poche grandi aziende. Una quantità enorme di potere tecnologico ed economico, secondo l’Alto Commissario, è oggi concentrata in un numero ristretto di soggetti, con conseguenze che devono essere valutate anche dal punto di vista dei diritti umani.Al centro c’è anche la questione dei dati. I sistemi di IA vengono addestrati attraverso enormi quantità di informazioni, rendendo fondamentale stabilire chi possa raccoglierle, utilizzarle e conservarle e con quali garanzie.Per Türk, la risposta non può essere affidata esclusivamente ai singoli Paesi. L’IA è una tecnologia globale e anche le regole sulla sua sicurezza dovrebbero essere condivise a livello internazionale. “Come minimo abbiamo bisogno che i Paesi che ospitano l’IA e quelli che partecipano alle sue catene di approvvigionamento raggiungano un accordo su linee rosse comuni”, ha sottolineato.Tra le richieste avanzate dall’Alto Commissario figura anche una maggiore collaborazione tra governi e aziende e la possibilità di sottoporre i sistemi più avanzati a verifiche indipendenti, così da individuare tempestivamente eventuali rischi. L’allarme dell’ONU non riguarda però soltanto la possibilità che l’IA diventi difficile da controllare. Türk ha chiesto di considerare anche le conseguenze sulle pratiche occupazionali, sui principi fondamentali della democrazia e sull’ambiente.