La inteligencia artificial ha dejado de ser solo una cuestión tecnológica para convertirse en un debate político, económico y moral. Su avance plantea preguntas sobre el empleo, la privacidad, la democracia, el medio ambiente y la propia idea de humanidad, una preocupación que también ha entrado de lleno en el discurso del Vaticano. Ese es el eje de ‘Magnifica Humanitas’, la primera encíclica de León XIV, publicada este lunes 25 de mayo y consultada por Europa Press. En el texto, el papa aborda la “preservación de la humanidad” en la era de la IA y lanza una advertencia central: “Ningún sistema de cálculo, por sofisticado que sea, genera un corazón que se entrega, ni una conciencia capaz de discernir el bien”. La frase resume el tono de una encíclica que no rechaza la innovación, pero sí alerta contra la tentación de atribuir a los sistemas artificiales capacidades propiamente humanas. León XIV pide “un enfoque prudente y cauteloso” y advierte de que la inteligencia artificial “puede ser peligrosa” cuando una persona busca en ella cuidado, acompañamiento, consejo, amistad o amor. Según recoge Europa Press, el Pontífice sostiene que esa “imitación artificial” puede “inducir a engaño y dar la falsa impresión de estar en una relación”. La IA no es neutral Uno de los puntos más contundentes de la encíclica se centra en la supuesta objetividad de los algoritmos. El papa avisa de que estos sistemas pueden convertirse en un “engaño” cuando se presentan como neutrales, pero en realidad reproducen estereotipos, sesgos o posiciones ideológicas de quienes los diseñan. “No podemos considerar la IA como moralmente neutra”. La preocupación alcanza también a las decisiones automatizadas sobre personas. León XIV alerta de que “confiarle a un algoritmo el poder de seleccionar quién es digno y quién no” supone “encomendarle la tarea de redefinir los límites de las posibilidades humanas”. Con esa idea, el texto sitúa el debate sobre la IA en el terreno de la dignidad, la justicia social y la responsabilidad institucional. Para el Pontífice, pedir una adopción más lenta de la tecnología no equivale a oponerse al progreso. La encíclica defiende “prudencia, controles rigurosos” y “una ralentización en la adopción de la IA” cuando estén en juego derechos, libertades o condiciones de vida. “No basta con invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”, propone. El texto también reclama responsabilidades claras en toda la cadena: desde quienes diseñan los sistemas hasta quienes los comercializan o utilizan. Además, hace un llamamiento a los desarrolladores de inteligencia artificial para “verificar que lo que se cultiva sea realmente un bien”. El futuro humano y el empleo Otro de los grandes ejes de ‘Magnifica Humanitas’ es la concentración de poder. León XIV advierte del riesgo de que “pequeños grupos muy influyentes” puedan orientar informaciones y consumos, condicionar procesos democráticos e incidir en la economía. Por ello, defiende que “la propiedad de los datos no puede confiarse solo al sector privado, sino que debe reglamentarse”. La encíclica también muestra “preocupación” por el impacto de combinar automatización, robótica e IA en el mercado laboral. El papa alerta de que “en algunos contextos, es realista temer una reducción significativa y rápida de los puestos de trabajo”, así como nuevas formas de precariedad, desigualdad salarial y concentración de beneficios en una minoría altamente especializada. Frente a ello, pide normas y medidas de protección, recualificación y participación de los trabajadores. Presenta, así, la inteligencia artificial como una prueba decisiva para la política, la economía y la ética contemporáneas. Por eso también cuestiona el transhumanismo y el posthumanismo, al advertir del riesgo de una visión de “humanidad potenciada” o de “hombre hibridado” con la máquina. El papa alerta de que, en nombre del progreso, pueden justificarse “sacrificios necesarios” y cargar sobre los más vulnerables el precio de una supuesta optimización de la especie.