El papa León XIV publicó este martes su primera encíclica, Magnifica Humanitas, centrada en los desafíos éticos y sociales de la inteligencia artificial (IA). El documento, sumamente interesante, plantea ideas como que la IA debe estar al servicio de la dignidad humana y no concentrar poder en manos de gobiernos o gigantes tecnológicos; que el avance tecnológico no puede justificar la destrucción del empleo ni la sustitución de las relaciones humanas; o que el desarrollo de sistemas autónomos aplicados a la guerra representa un riesgo inaceptable. Las reacciones, a favor y en contra, no se han hecho esperar, y entre los comentarios más señalados en redes sociales y artículos se cuela el nombre de uno de los más famosos escritores del siglo XX: John Ronald Reuel Tolkien, a quien el pontífice cita en su encíclica. De todas las empresas vinculadas a la IA, la que más profundamente representa lo opuesto a lo que el Papa pide en su encíclica es Palantir, que precisamente toma su nombre de las piedras videntes de la obra cumbre de Tolkien, El señor de los anillos. Dedicadas a la vigilancia masiva y a la recolección omnívora de datos, su nombre no podría estar más atinado para bautizar a una de las empresas más poderosas y opacas de todo el ecosistema digital. La figura más visible de la empresa, Peter Thiel, no es alguien ajeno a lo religioso: además de ser el mecenas confeso del vicepresidente de EE UU, J. D. Vance (convertido al catolicismo en 2019), Thiel estuvo hace no mucho en Roma, precisamente cerca del Vaticano, impartiendo una serie de charlas sobre el advenimiento del anticristo.La relación entre la Santa Sede y Thiel es abiertamente hostil: Paolo Benanti, asesor en materia de IA del Vaticano, escribió en marzo en Le Grand Continent que la carrera de Thiel es “un desafío a los propios fundamentos de la convivencia civil“. Sabe de lo que habla: hace unas semanas, Palantir fue noticia mundial por la difusión de un manifiesto que divide las civilizaciones entre vitales y disfuncionales, ataca el “pluralismo vacío”, llama a Silicon Valley a liderar EE UU y habla de prepararse para competir con China en términos casi bélicos. El manifiesto (y el libro en el que se basa, La república tecnológica, que el CEO de Palantir, Alex Karp, publicó el año pasado) es el reverso perfecto de todo lo que León XIV pide en Magnifica Humanitas: un Silicon Valley que rija el mundo con puño de hierro, desde la superioridad intelectual y armamentística.Tierra para la labranzaEl caso es que dentro de la encíclica papal, un párrafo ha causado mucho revuelo en internet por citar a una fuente poco frecuente en este tipo de escritos: “Un escritor católico del siglo XX, John Ronald Reuel Tolkien, por boca de uno de los protagonistas de una de sus novelas, describió así nuestra responsabilidad: ‘No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza”, escribe el pontífice.El párrafo en cuestión, que pertenece, claro, a El señor de los anillos, tiene lugar a la mitad de la tercera parte, El retorno del rey, en el capítulo 9, La última deliberación. El texto lo pronuncia el mago Gandalf durante el consejo de guerra final: después de salvar la ciudad de Minas Tirith del asedio de las fuerzas del mal, los héroes deciden iniciar una marcha suicida hacia la Puerta Negra de Mordor para distraer a los villanos mientras los hobbits Frodo y Sam se intentan colar en las tierras del enemigo para lanzar en su volcán el anillo Único que vertebra toda la trama.Cotejando el libro, un detalle llama la atención poderosamente. En la misma página —de hecho, pocos párrafos antes—, Gandalf hace la única referencia a las Palantir que hay en todo el capítulo: “Las Piedras que ven [las Palantir] no engañan: ni el mismísimo Señor de Baraddür podría obligarlas a eso. Podría quizá decidir sobre lo que verán las mentes más débiles, o hacer que interpreten mal el significado de lo que ven”. Conviene repetirlo: “Podría decidir sobre lo que verán las mentes más débiles, o hacer que interpreten mal el significado de lo que ven”. La frase, en el contexto actual del flujo de información intervenida por la IA, adquiere un significado distinto y radiografía de forma certera los grandes males a los que la humanidad se aboca si la IA campa a sus anchas en manos de unos pocos. No se puede asegurar que el Papa escogiera su frase por la cercanía a esa otra, pero no deja de ser curioso. El capítulo, por cierto, termina con los héroes emprendiendo la marcha hacia una muerte casi segura: “Es el último lance de una partida peligrosa, y será de algún modo el final del juego”, concluye el capítulo Aragorn, que acepta encabezar el suicida ataque contra Mordor, antes de desenvainar su espada: “No volveré a envainarte hasta que se haya librado la última batalla”. En esas estamos todos los que vivimos en este mundo asaeteado por la IA. Incluido el papa León XIV, que parece que ya ha desenvainado su pluma.