Sono sempre di più i laboratori che assumono filosofi, esperti di etica e scienze politiche. Non solo ingegneri quindi: all’intelligenza artificiale non serve solo chi è in grado di scrivere codici ma anche e soprattutto chi sa quelle domande a cui solo un uomo puo rispondereSono sempre di più i laboratori che assumono filosofi, esperti di etica e scienze politiche. Non solo ingegneri quindi: all’intelligenza artificiale non serve solo chi è in grado di scrivere codici ma anche e soprattutto chi sa quelle domande a cui solo un uomo puo rispondereSiate sinceri: se doveste immaginare com’è fatto un quartiere generale di una delle aziende più evolute al mondo nel settore artificiale, pensereste a sale piene di ingegneri, lavagne coperte di formule matematiche, server accessi 24 ore al giorno. Eppure, la realtà è leggermente diversa: in questi luoghi, inavvicinabili quasi anche per la nostra immaginazione, c’è anche chi trascorre le giornate leggendo John Rawls, Hannah Arendt o discutendo del significato della giustizia in una società democratica. Questo succede non in un’azienda qualunque, ma in Google: precisamente in DeepMind. Chi è Iason Gabriel, il filosofo di Google Uno dei ricercatori più ascoltati dell'azienda è Iason Gabriel, filosofo politico di formazione, oggi responsabile del team AGI & Society, il gruppo che studia come l'intelligenza artificiale influenzerà la società e quali principi dovrebbero guidarne lo sviluppo. Prima di arrivare a DeepMind aveva insegnato filosofia politica a Oxford e lavorato con il Programma delle Nazioni Unite per lo sviluppo in Sudan e Libano. Il suo curriculum sembrava appartenere molto più a un'accademia o a un'organizzazione internazionale che a una Big Tech.Quando entrò in DeepMind nel 2017, racconta il Guardian, molti si chiedevano cosa potesse fare un filosofo in un laboratorio che inseguiva l'intelligenza artificiale generale. Oggi quella domanda si è quasi ribaltata: è difficile immaginare come aziende che progettano sistemi sempre più autonomi possano fare a meno di figure come la sua.Quando la tecnologia incontra la filosofiaL’avvento dell’AI generativa ha cambiato la concezione del lavoro per le Big Tech. Perché è cambiato il servizio che viene richiesto a questi modelli: la fase sorpresa è terminata già da un po’, trasformandosi in consulenti sempre più credibili. Scrivono email, riassumono documenti, consigliano investimenti, aiutano a fare diagnosi, programmano software e, sempre più spesso, prendono decisioni o eseguono azioni per conto degli utenti.Ogni volta che un sistema del genere risponde a una domanda, rifiuta una richiesta o suggerisce una soluzione, sta facendo qualcosa di molto umano: scegliere. Ed è proprio in questo punto, che dalla questione informatica si passa a un discorso che riguarda l’etica. Una sfera di influenza apparentemente lontana dagli algoritmi, ma molto vicina nella pratica.Il problema dell'allineamentoEcco perché serve un filosofo. Nel mondo dell'AI si usa un termine che negli ultimi anni è diventato centrale: alignment, cioè allineamento. Cosa significa? In sostanza, fare in modo che una macchina si comporti secondo gli interessi e i valori degli esseri umani. Se si pensa che si tratti di qualcosa di tecnico, ci si sbaglia. Lo sostiene lo stesso Gabriel, a cui “tocca” il compito - se vogliamo - di insegnare a una macchina ad agire secondo valori umani. Il problema attorno a cui gira il suo task principale in Google è quello di decidere quali valori insegnarle.Per capire meglio, forse è utile fare un esempio: immaginiamo un assistente AI che aiuta un medico. Dovrebbe privilegiare sempre la trasparenza con il paziente oppure, in alcuni casi, limitare alcune informazioni per evitare un danno psicologico? O ancora: un assistente personale come deve comportarsi davanti alle richieste di un utente: assecondarle tutte o rifiutarsi? E come deve rapportarsi rispetto alla cultura di un Paese? Questo è il terreno in cui operano i filosofi assunti dalle big tech dell’AI.Non esistono AI neutraliUno dei contributi più importanti di Gabriel è mettere in discussione un'idea molto diffusa: quella secondo cui un'intelligenza artificiale potrebbe essere neutrale. A lui spetta l’arduo mestiere di insegnare a un modello le varie sfumature che esistono tra termini come "utile", "sicuro", "onesto" o "innocuo". Ognuno di questi, infatti, implica un giudizio e oggi, con l’AI che è sempre più alla portata di tutti, dare un peso alle parole che deve utilizzare uno strumento è un ruolo di responsabilità enorme.Nel suo lavoro sull'allineamento riportato dal “Guardian”, Gabriel sostiene che viviamo in società pluralistiche, dove convivono idee diverse di bene, libertà e giustizia. Per questo non basta cercare un elenco di valori da inserire nel sistema: serve un processo equo e giustificabile per decidere quali principi adottare e come bilanciarli quando entrano in conflitto. Da "AI Ethics" ad AGICome tutti i lavori, anche quello del filosofo dell’AI si è evoluto. Non si occupa più soltanto di chatbot ma di AI agent, sistemi capaci di agire autonomamente: prenotare viaggi, gestire pagamenti, organizzare attività o prendere iniziative senza un intervento umano continuo.Secondo Gabriel, il salto dagli assistenti che rispondono alle domande agli agenti che compiono azioni cambia completamente il tipo di responsabilità richiesta a chi li progetta. È per questo che il suo team ha pubblicato studi dedicati all'etica degli assistenti AI avanzati e alle relazioni che potrebbero instaurarsi tra persone e macchine sempre più personalizzate. Lo scetticismo verso questa sorta di umanesimo digitale non manca: nell’ultimo periodo ha coniato anche termini ad hoc come ethics washing, una formula utilizzata per descrivere il rischio che le aziende usino l'etica come strumento di comunicazione senza modificare davvero le proprie pratiche.Le Big Tech stanno assumendo sempre più umanistiNon c’è solo Google ad aver puntato sugli umanisti in questo settore: anche OpenAI, Anthropic e altri laboratori hanno costruito team multidisciplinari che includono filosofi, psicologi, linguisti, economisti e giuristi. Oltre a un discorso di immagine, infatti, queste aziende pensano davvero che i problemi più difficili non riguardino soltanto la capacità di generare testo o immagini, ma il modo in cui queste tecnologie influenzeranno il lavoro, la politica, la scuola, la giustizia e perfino le relazioni personali.Tag LEGGI ANCHE L'E COMMUNITYEntra nella nostra community Whatsapp