Entre fe y algoritmos, el sacerdote y asesor del Vaticano en inteligencia artificial, Paolo Benanti, planteó que la verdadera discusión sobre la IA no es tecnológica, sino política, ética y democrática. En línea con la reciente encíclica Magnifica Humanitas del Papa León XIV, publicada hace menos de un mes, advirtió sobre la concentración de poder en manos de un puñado de empresas, cuestionó la neutralidad de la inteligencia artificial y defendió la necesidad de una “democratización” de estas tecnologías.“La inteligencia artificial no es un problema de ingeniería”. La frase dicha en varias ocasiones por el asesor de la Santa Sede, sintetiza la visión que el académico italiano ha impulsado desde hace años en el Vaticano y que este lunes presentó en la Pontificia Universidad Católica durante el lanzamiento del Nodo IA de la vicerrectoría de Inteligencia Digital de la UC.Considerado una de las voces más influyentes de la Iglesia Católica en materias de inteligencia artificial, el sacerdote franciscano se ha convertido en uno de los principales asesores de la Santa Sede sobre el impacto de las tecnologías emergentes. Su influencia se ha extendido también a organismos internacionales y gobiernos que buscan orientación sobre cómo regular una tecnología que avanza más rápido que las leyes.“La tecnología nunca es neutral”. Uno de los ejes centrales de su presentación fue cuestionar la idea de que la inteligencia artificial sea simplemente una herramienta técnica. Para explicarlo expuso que “el control real permanece en manos de quienes poseen el software” y no de quienes son dueños de un smartphone. Los usuarios no pueden modificar libremente los sistemas, utilizar todas las capacidades del hardware ni decidir completamente qué hacer con los dispositivos que compraron. Papa León XIV. Créditos: Vatican News Desde esa perspectiva, Benanti expuso que la IA sería la última evolución de un proceso más amplio, relacionado con el traslado del poder desde los propietarios de objetos físicos hacia quienes controlan los sistemas digitales. “La última versión del software es la inteligencia artificial. Y quienes controlan la IA pueden controlar gran parte de nuestras vidas”, advirtió.Se trata de una afirmación que conecta directamente con el argumento central de Magnifica Humanitas, relacionada con la preocupación de que las tecnologías digitales “estén reconfigurando las relaciones de poder en formas que las democracias aún no logran comprender ni regular”.El Vaticano frente a las big techQuizás el aspecto más controversial de la exposición fue su crítica a la concentración económica detrás de la inteligencia artificial. Benanti recordó que desarrollar modelos avanzados exige inversiones multimillonarias, imposibles para universidades, pequeñas empresas o incluso muchos países.Mencionó que cuatro compañías tecnológicas concentran inversiones anuales en IA por montos que superan los 650 mil millones de dólares, equivalentes al PIB de Suecia o a 1,5 veces el de Chile.A su juicio, la nueva economía de la inteligencia artificial está siendo definida por un número extremadamente reducido de actores capaces de financiar infraestructura, centros de datos, modelos y plataformas. La consecuencia, sostuvo, es una concentración inédita del poder privado.Otro punto llamativo de la conferencia fue el énfasis en la dimensión material de la inteligencia artificial. Benanti cuestionó la percepción habitual de la IA como un servicio intangible que existe “en la nube”. Detrás de cada consulta realizada a un motor de IA existen centros de datos, infraestructura de telecomunicaciones, servidores especializados, energía y grandes volúmenes de agua utilizados para refrigeración. El sacerdote destacó especialmente esta dimensión en países afectados por el estrés hídrico.La observación conecta con una de las nuevas líneas de reflexión impulsadas por el Vaticano, que vincula la discusión sobre inteligencia artificial con los debates ambientales y de justicia climática.Fray Paolo Benanti, asesor en Inteligencia Artificial del Vaticano. La dimensión más inquietante de la conferencia apareció hacia el final. Apoyándose en estudios de psicología cognitiva y economía conductual, argumentó que las plataformas digitales poseen una capacidad creciente para orientar comportamientos, preferencias y decisiones. “El diseño de una interfaz de usuario es hoy una de las acciones más políticas que podemos imaginar”, declaró en su ponencia.La afirmación apunta a una preocupación central del Vaticano, frente a que la inteligencia artificial deje de ser simplemente una herramienta de asistencia y se convierta en un mecanismo capaz de moldear conductas sociales a gran escala. “Necesitamos aprender a controlar la tecnología y no ser controlados por ella”, afirmó el fraile.Frente a ese escenario, la respuesta propuesta por Benanti no pasa por prohibir ni desacelerar la inteligencia artificial. Su apuesta, según dijo, es fortalecer las capacidades humanas. Así como la mecanización obligó a las personas a buscar ejercicio físico para mantener su salud, expresó, la automatización cognitiva exige desarrollar nuevas formas de entrenamiento intelectual. Para esto sugirió la idea de formular un “gimnasio cognitivo”. Es una visión coherente con el enfoque que León XIV ha intentado imprimir a la Iglesia respecto de la inteligencia artificial: no oponerse a la tecnología, pero tampoco aceptarla de manera acrítica. “La tecnología necesita una dirección moral”, señaló durante su visita en nuestro país.Al salir de la conferencia, en Casa Central de la UC, el clérigo fue consultado por la prensa sobre cuál es la principal amenaza que enfrenta la sociedad ante la incursión de la IA, que avanza muchas veces más rápido de lo que se puede entender o fiscalizar. “La minaccia principal es la estupidez natural, porque si el hombre aplica la inteligencia artificial de mala manera, es malo. Entonces, no es un problema de la máquina, es un problema del hombre", concluyó.