Papa reconhece valor da nova tecnologia, mas aponta os riscos intrínsecos a seu avanço O Papa Leão XIV, durante a apresentação da encíclica 'Magnifica Humanitas' no Vaticano — Foto: Alberto Pizzoli/AFP Leão XIV não é o primeiro papa a se preocupar com as transformações trazidas pela tecnologia à sociedade. A inspiração explícita de Magnifica Humanitas (Magnífica Humanidade), sua primeira encíclica publicada ontem, é Rerum Novarum (Sobre as coisas novas), em que Leão XIII — inspirador também do nome adotado pelo americano Robert Francis Prevost — discorria sobre o impacto das “coisas novas” oriundas da Revolução Industrial e, ao mesmo tempo que reconhecia o valor do avanço científico, rogava pela proteção daqueles cujo trabalho ou vida fossem afetados pelas transformações. É também esse o tom de Leão XIV na encíclica que dedicou à maior revolução tecnológica em curso: o advento da inteligência artificial (IA). Matemático de formação, Prevost é um papa cujo preparo científico o qualifica a entender com profundidade o universo digital. Logo no início do papado, anunciou que daria atenção aos riscos das novas tecnologias e já fez várias declarações sobre IA. Escolheu divulgar sua encíclica ao lado de Christopher Olah, um dos fundadores da Anthropic, cujo modelo Claude tem sido treinado com base na preocupação com a “moralidade” das decisões tomadas pelos algoritmos — a Anthropic enfrentou o Pentágono ao negar o uso de seus sistemas em armas autônomas. Os princípios defendidos em Magnifica Humanitas refletem realismo e sensatez. De um lado, Leão XIV reconhece que a tecnologia não pode, em si, ser considerada uma “força antagônica” ao ser humano e enxerga múltiplos benefícios em seu uso. De outro, chama a atenção para os riscos que lhe são intrínsecos. “Não significa renunciar à tecnologia, mas impedir que ela domine o ser humano”, escreve. “Significa retirá-la dos monopólios, torná-la discutível, contestável e, portanto, habitável, devolvendo-a à pluralidade das culturas humanas e das formas de vida.” Ele defende a regulação das gigantes digitais que desenvolvem a IA e o treinamento da força de trabalho cujos empregos forem ameaçados. “É desejável que a tecnologia alivie o homem de trabalhos particularmente pesados, repetitivos ou perigosos e ofereça um apoio inteligente à atividade humana; porém o princípio geral deve continuar a ser a proteção dos postos de trabalho e do papel insubstituível da pessoa”, diz em seu texto. “A ordem econômica deve manter-se subordinada à sua dignidade e ao bem comum.” O papa também recomenda a proteção de crianças e adolescentes e afirma que a educação é primordial para usar as inovações. “Educar para o uso da IA implica educar para decidir quando e em que situações não a utilizar”, afirma. Ele exige que máquinas não tenham como tomar decisões autônomas no “âmbito bélico”: “A decisão de recorrer à força letal não pode ser delegada em processos pouco transparentes ou automatizados, mas deve permanecer sob um controle humano efetivo, consciente e responsável”. Por fim, Leão XIV faz uma exortação enfática por salvaguardas éticas. “A inovação tecnológica pode ser, em certo sentido, uma forma humana de participar no ato divino da criação”, diz. “Programadores assumem um particular peso ético e espiritual (...). Tal como o autor de uma obra artística ou literária é responsável por ponderar os valores que ela expressa, também eles são chamados a tratar com a devida seriedade os valores que infundem.” O recado papal deveria ser ouvido não só por católicos, mas por todos.