Fino a qualche anno fa, i “buoni” dell'intelligenza artificiale – o presunti tali – abbondavano: OpenAI era ancora una non-profit con la missione di “sviluppare un’intelligenza artificiale a beneficio di tutta l’umanità” (come da statuto originale), Google si rifiutava di collaborare con il settore militare, Meta prometteva di risolvere tramite gli algoritmi il problema dell’hate speech e tutte le principali realtà della Silicon Valley si erano dotate di “dipartimenti etici” che avevano il compito di monitorare e mitigare le esternalità negative di questa tecnologia (in particolare in materia di discriminazioni).E poi, complice anche il mutato clima politico, la situazione è rapidamente cambiata: OpenAI si è trasformata in una for-profit disposta a stringere accordi anche con l’esercito pur di appianare le perdite, Google ha cancellato il motto “don’t be evil” e ha iniziato a siglare partnership di stampo militare, Meta ha fatto piazza pulita di tutti i dipartimenti etici e adesso immagina un futuro in cui le intelligenze artificiali diventeranno i nostri unici amici. Tutto questo senza citare Elon Musk, che è passato dal finanziare documentari sui rischi legati allo sviluppo dell’intelligenza artificiale a dare vita a Grok: il chatbot politicamente scorretto che diffonde a piene mani teorie del complotto e disinformazione.Negli ultimi anni è anche aumentato a dismisura il potere di startup a stampo bellico e di sorveglianza – tra cui Palantir, Anduril o Clearview AI – mentre nel mondo politico si facevano largo inquietanti scuole di pensiero come il lungotermismo o l’accelerazionismo efficace, accomunate dal disinteresse nei confronti dei pericoli concreti che – a partire dal mondo del lavoro – l’intelligenza artificiale sta causando.In un panorama che si fa sempre più tetro, quali sono allora le figure positive rimaste nel campo dell’intelligenza artificiale? Sottolineandone le possibili ipocrisie e ambiguità, ecco una lista incompleta.LawZero di Yoshua BengioQuando Yoshua Bengio – uno dei tre “padrini dell’intelligenza artificiale”, assieme a Yann LeCun e Geoff Hinton – lancia una nuova startup, l’attenzione nei suoi confronti è d’obbligo. Se poi l’obiettivo della startup in questione – LawZero, inaugurata nei primi giorni di giugno 2025 – è quella di impedire che le intelligenze artificiali ingannino l’essere umano e portino a termine dei compiti anche se in contrasto con le nostre indicazioni, si intuisce perché l’iniziativa di Bengio è stata salutata positivamente dalle riviste specializzate e non solo.L’obiettivo della non-profit LawZero è di creare una cosiddetta Scientist AI in grado di impedire agli AI Agents (quei sistemi progettati per portare a termine i compiti che gli abbiamo assegnato in background, senza bisogno del nostro intervento) di compiere azioni nocive o contrarie ai nostri comandi. Nel caso in cui la probabilità che ciò stia avvenendo superi una certa soglia, l’intelligenza artificiale, ancora in fase di sviluppo da parte di Bengio e del suo team, si occuperà di “bloccare” l’azione dell’agente.“Se otteniamo un'intelligenza artificiale che ci fornisce la cura per il cancro, ma magari un'altra versione di quell'intelligenza artificiale impazzisce e genera ondate su ondate di armi biologiche che uccidono miliardi di persone, allora non penso che ne valga la pena”, ha spiegato Bengio.Il linguaggio fantascientifico potrebbe avere soprattutto l’obiettivo di attirare l’attenzione dei media e degli investitori, perché in realtà l’impresa di Bengio potrebbe avere risvolti molto più concreti. Potrebbe per esempio fungere da controllore, in grado di rendersi conto se il nostro agente sta, per fare dei banali esempi, acquistando un biglietto aereo superiore al budget che abbiamo impostato o dei prodotti alimentari che non ci interessano.Man mano che cediamo sempre più responsabilità alle macchine, diventa cruciale che un’altra macchina monitori ciò che le prime stanno facendo. Lo scopo di Bengio sembra quindi anche quello di mitigare i possibili effetti collaterali causati dalla frettolosa diffusione di sistemi che potrebbero non essere ancora sufficientemente affidabili.Alcuni dei finanziatori di Bengio – tra cui il Future of Life Institute e l’ex presidente di Google Eric Schmidt – potrebbero far storcere il naso, visto che sono stati al centro di parecchie polemiche per il loro approccio avventuroso e militarista all’intelligenza artificiale. Ma per dare un giudizio sul nuovo lavoro di Yoshua Bengio è ancora troppo presto.SSI di Ilya SutskeverA prima vista, Ilya Sutskever entra a pieno diritto nel novero dei “buoni” dell’intelligenza artificiale. Non solo ha cercato, senza successo, di eliminare Sam Altman da OpenAI (di cui Sutskever è cofondatore) a causa del comportamento giudicato poco trasparente e sconsiderato, ma dopo aver perso la battaglia con il suo ex sodale, ed essere stato eliminato dal consiglio d’amministrazione di OpenAI, Sutskever ha fondato una startup che sembra avere l’obiettivo di recuperare l’iniziale missione della società oggi guidata in solitaria da Altman.Safe Superintelligence (SSI), nata nel giugno 2024, ha infatti lo scopo di costruire un sistema di intelligenza artificiale superintelligente (e quindi in grado di superare di gran lunga le capacità umane), ma assicurandosi che esso sia “allineato” ai nostri valori e non corra quindi il rischio di rivoltarsi contro l’essere umano. Missione sicuramente apprezzabile, se non fosse per un paio di problemi.Il primo è che uno scenario del genere è al momento fantascientifico – come confermato implicitamente anche da un recente paper pubblicato da Apple – e sembra quindi essere uno specchietto per le allodole, con l’obiettivo di attirare l’attenzione di vari stakeholder (un po’ come nel caso di Bengio). La seconda è che SSI è una for-profit che ha già ricevuto oltre un miliardo di dollari di finanziamenti da fondi come Andreessen Horowitz (uno dei più spregiudicati attori nel campo dell’intelligenza artificiale) e Sequoia Capital. Come tutto ciò si concili con una startup che sembra avere una missione puramente benefica è ancora tutto da capire.Encode Justice di Sneha RevanurPer trovare le persone che veramente si trovano dalla parte giusta della barricata quando si parla dei rischi posti dall’intelligenza artificiale, forse dobbiamo uscire dal mondo delle startup e osservare più da vicino ciò che avviene nel campo delle ong e della ricerca accademica.Un esempio di ciò che succede da queste parti – estranee a ogni logica commerciale – è Encode Justice, organizzazione fondata dalla giovane attivista Sneha Revanur, diventata nota per la prima volta nel 2020, quando a soli 15 anni ha partecipato attivamente alla campagna per bloccare la Proposition 25 in California: una proposta di legge che avrebbe sostituito la libertà su cauzione con una valutazione di rischio affidata a un sistema di intelligenza artificiale.Troppo elevati i rischi in termini di discriminazioni ed errori – ormai noti da anni – per permettere che decisioni così delicate e con ricadute così importanti venissero automatizzate. Da quell’esperienza, conclusasi con successo, è nata la ong Encode Justice, fondata da Sneha Revanur non solo per combattere i pericoli legati all’utilizzo dell’intelligenza artificiale, ma soprattutto per assicurarsi che, sul tema, la voce della Generazione Z venga ascoltata.Per quanto sia stata soprannominata la “Greta Thunberg dell’intelligenza artificiale”, la sua associazione (800 membri in 30 paesi del mondo e finanziata principalmente dal fondatore di eBay, Pierre Omidyar) segue modalità d’azione molto differenti dai Fridays for Future e ancor più dai gruppi radicali come Extinction Rebellion. Lo si è notato una volta di più quando, nel 2023, Encode Justice e altri movimenti hanno inviato una lettera al Congresso degli Stati Uniti chiedendo di essere maggiormente inclusi nei processi decisionali relativi all’intelligenza artificiale.“L’intelligenza artificiale dovrebbe essere progettata per soddisfare i bisogni dell’essere umano ed essere responsabile nei nostri confronti. Senza il nostro intervento, la AI potrebbe presentare gravi rischi per la nostra società, economia e democrazia. Abbiamo bisogno di una supervisione attenta per controllare il suo sviluppo”, ha spiegato Revanur parlando con il Times of India.AI Now Institute di Meredith Whittaker e Kate CrawfordMeredith Whittaker e Kate Crawford sono due nomi di assoluto peso nel campo dell’intelligenza artificiale e dell’informatica: la prima è oggi presidente di Signal, mentre la seconda ha conquistato la notorietà grazie al suo fondamentale saggio Né intelligente, né artificiale. Per quanto non siano più direttamente coinvolte nell’istituto di ricerca che hanno fondato nel 2017, la loro iniziale partecipazione ha conferito prestigio all’AI Now Institute, che si occupa di monitorare come le aziende stanno sviluppando l’intelligenza artificiale e di assicurarsi che i governi non impieghino questa tecnologia in maniera frettolosa e pericolosa. "Questi strumenti stanno influenzando moltissimi aspetti della nostra vita quotidiana, dall'assistenza sanitaria alla giustizia penale, dall'istruzione alle assunzioni", ha spiegato Crawford. "Ciò solleva implicazioni molto serie su come le persone ne saranno colpite".Per assicurarsi che l'intelligenza artificiale sia sviluppata nell'interesse dei cittadini, i ricercatori di AI Now operano in quattro categorie: diritti e libertà, lavoro e automazione, pregiudizi e inclusione, sicurezza e infrastrutture critiche. Diritti e libertà riguardano il potenziale dell'intelligenza artificiale di violare le libertà civili delle persone, come nel caso della tecnologia di riconoscimento facciale negli spazi pubblici. Lavoro e automazione riguardano l'impatto sui lavoratori dei sistemi di gestione e assunzione automatizzati. Pregiudizi e inclusione riguardano il potenziale dei sistemi di intelligenza artificiale di esacerbare la discriminazione storica contro i gruppi emarginati. Infine, sicurezza e infrastrutture critiche esaminano i rischi derivanti dall'integrazione dell'intelligenza artificiale in sistemi importanti come la rete energetica.Uno dei loro ultimi report analizza come la narrazione sulla “corsa all’intelligenza artificiale” e le preoccupazioni speculative sul "rischio esistenziale" vengano utilizzate per giustificare la frettolosa implementazione di sistemi automatizzati a scopo militare, spesso in contraddizione con gli standard di sicurezza e affidabilità che hanno storicamente regolato altre tecnologie ad alto rischio (come i sistemi nucleari). Il risultato è una normalizzazione di sistemi d’intelligenza artificiale non testati, inaffidabili e che erodono la sicurezza e la funzionalità delle infrastrutture critiche sia militari sia civili.Altri istituti, nella maggior parte dei casi di derivazione accademica e che si occupano di mitigare i rischi concreti – e non fantascientifici – dell’intelligenza artificiale, sono il DAIR (Distributed Artificial Intelligence Research Institute) fondato dall’ex responsabile per l’etica di Google, Timnit Gebru (cacciata da Google proprio per aver evidenziato i rischi connessi alla diffusione incontrollata dei large language model); l'Institute for Human-Centered Artificial Intelligence di Stanford, che si concentra sulle implicazioni etiche e sociali dello sviluppo dell'intelligenza artificiale; il Center for Ethics, Society and Computing (ESC) dell'Università del Michigan (che lavora su disuguaglianze e discriminazioni causate dalle nuove tecnologie); il Berkman Klein Center for Internet and Society di Harvard, che si concentra in parte sulle sfide dell'etica e della governance nell'IA e tantissimi altri.Spesso guidati da donne, lontani anni luce dal mito delle startup della Silicon Valley, dai motti alla “move fast and break things” e dalle visioni distopiche e fantascientifiche di lungotermisti e accelerazionisti di destra, queste realtà cercano faticosamente, tutti i giorni, di porre la giusta attenzione sui rischi concreti posti dall’intelligenza artificiale. Ed è per questa ragione che, più di ogni startup dedicata alla “AI Safety”, possono essere annoverate, senza timore di smentita, tra i buoni (o le buone) dell’intelligenza artificiale.