ANALYSE. Le travail, le chômage, la famille, la dignité humaine, la justice sociale, nos libertés, notre rapport à la vérité… Dans « Magnifica humanitas », le pape Américain dissèque de façon clinique les enjeux du nouveau monde.Léon XIII fut au XIXe siècle le pape de la modernisation industrielle, dont il décortiqua les effets à travers son encyclique Rerum novarum (1891). Léon XIV, comme il l’a annoncé dès son élection, sera le pontife de l’ère de l’Intelligence artificielle (IA) dont il veut mesurer les conséquences dans sa première encyclique, qui paraît quelques jours après le premier anniversaire de son pontificat. Et qui s’intitule Magnifica humanitas – publié notamment aux éditions du Cerf.En gardant le latin, le pape se place dans la lignée de son prédécesseur mais plus d’un siècle et demi les sépare, et au vu des révolutions qui se sont succédé il s’agit d’une éternité.Léon XIII, une des références du souverain pontife, avait établi la doctrine sociale de l’Église, Léon XIV inscrit sa réflexion dans son fondement (il y consacre beaucoup de développements), en y intégrant les enrichissements de tous les papes successifs et en proposant une nouvelle lecture pour notre monde qui change à une vitesse ultrarapide.Aux côtés du pape, un géant de l’IAUn monde aux enjeux qui lui sont familiers : il est né dans la banlieue de Chicago en 1955, dans l’Amérique du boom consumériste et écologique, il a fait des études de mathématiques. Originalité : c’est lui-même qui présente le texte (il n’est pas seulement publié comme c’était le cas avec ses prédécesseurs). En présence d’un pilier de la Silicon Valley et de l’IA, cofondateur d’Anthropic - la société qui a créé le logiciel Claude -, Christopher Olah. Que sommes-nous en train de construire ? Le pape Léon XIVLe texte forme une réflexion longue (5 chapitres, avec une introduction et une conclusion, 245 entrées), dense, charpentée. Le pape y développe une pensée qui permet d’éclairer ce qui se joue sous nos yeux, au cœur même de l’actualité contemporaine. Alors que les dérives de l’IA fracturent aux États-Unis le camp trumpiste, et alimente les travaux de la commission d’enquête de l’Assemblée nationale sur les dépendances structurelles et les vulnérabilités systémiques dans le secteur du numérique.Le pape ne rejette pas en bloc l’ère de l’IA – de toute façon, il ne pourrait le faire, le train est lancé. Bien au contraire : on voit bien, à le lire, qu’il s’y intéresse de très près.« Que sommes-nous en train de construire ? »Autorité spirituelle, il veut surtout inviter chacun à se poser et à réfléchir à une question, en conscience, qu’il formule dans son texte : « Que sommes-nous en train de construire ? »Parce que « le développement technologique modifie rapidement les langages, les relations, les institutions et les formes de pouvoir ». Parce que « les innovations technologiques – notamment l’intelligence artificielle – ne sont pas neutres : elles peuvent favoriser la participation et la justice, ou bien aggraver les inégalités, le contrôle et l’exclusion ».Il ne s’agit pas de repousser le progrès, mais d’en appeler au sursaut des consciences pour mettre en place, on pourrait dire, des garde-fous afin d’assurer « la protection de la personne humaine à l’ère de l’intelligence artificielle » – c’est d’ailleurs le sous-titre du document.Car l’IA est un pouvoir qui nous échappe. D’abord, ses propres artisans n’en ont pas la maîtrise absolue. « Les intelligences artificielles modernes sont en effet davantage “cultivées” que “construites" », souligne Léon XIV : les développeurs n’en conçoivent pas directement chaque détail, mais créent une architecture sur laquelle l’IA « se développe ».Un double engagementEn conséquence, des aspects scientifiques fondamentaux – tels que les représentations internes et les processus computationnels de ces systèmes – restent pour l’instant inconnus. « Il en résulte donc l’urgence d’un double engagement : d’une part, un approfondissement de la recherche scientifique ; d’autre part, un exercice de discernement moral et spirituel ».« Lorsqu’un pouvoir d’une telle ampleur se concentre entre quelques mains, il tend à devenir opaque et à échapper au contrôle public, et augmente le risque d’un développement faussé qui engendre de nouvelles dépendances, des exclusions, des manipulations et des inégalités ». Léon XIVEnsuite, ces outils sont entre les mains de puissances privées, et sont soustraits donc à des objectifs de bien commun :« Dans de nombreux cas, dans le contexte numérique, écrit le pape, le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n’appartient pas aux États, mais à de grands acteurs économiques et technologiques qui, dans les faits, fixent les conditions d’accès, les règles de visibilité et les possibilités de participation. Lorsqu’un pouvoir d’une telle ampleur se concentre entre quelques mains, il tend à devenir opaque et à échapper au contrôle public, et augmente le risque d’un développement faussé qui engendre de nouvelles dépendances, des exclusions, des manipulations et des inégalités ».Le syndrome de BabelLaissez une telle puissance au service d’intérêts privés, sans contrôle, peut être porteur de graves dangers. Le pape relit les enjeux à la parabole biblique de la Tour Babel suivant laquelle les hommes ont perdu leur langage commun en voulant construire une Tour humaine les menant vers les cieux, et en voulant se passer de Dieu. Leur arrogance et leur désir de toute puissance leur seront fatals, ils finiront par ne plus se comprendre.« Évitons “le syndrome de Babel” », alerte le pape, « l’idolâtrie du profit qui sacrifie les plus faibles, l’uniformité qui gomme les différences, la prétention d’un langage unique – y compris numérique – capable de tout traduire, même le mystère de la personne, en données et en performances ».C’est le sens de l’humanité qui est en jeu. « Aujourd’hui, le désir de plénitude de l’être humain risque d’être détourné vers des objectifs trompeurs, observe le pape : l’illusion d’une technique promettant de nous libérer de toute fragilité ou des modèles de bien-être qui laissent de côté des peuples entiers ».Alors, lance Léon XIV, et c’est le cœur du message, il est urgent de « désarmer l’IA » : « Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive, écrit le Saint-Père. C’est la course à l’algorithme le plus performant et à la banque de données la plus vaste dans le but de consolider un avantage géopolitique ou commercial sur tous les autres. Désarmer, c’est rompre cette équivalence entre la puissance technique et le droit de gouverner. Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain. Cela signifie la soustraire aux monopoles, la rendre discutable, contestable, et donc habitable, en la restituant à la pluralité des cultures humaines et des formes de vie. La tâche, aujourd’hui, n’est pas seulement éthique ou technique : elle est écologique au sens le plus radical, car elle met en jeu une nouvelle dimension de notre Maison commune. L’IA est déjà un environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer. C’est pourquoi il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible ».Le grave danger du transhumanismeDe graves dangers menacent l’humanité, alerte Léon XIV. « Le risque n’est pas seulement que certaines technologies soient mal utilisées, mais que le paradigme technocratique dans lequel nous sommes plongés, renforcé par la révolution numérique et l’IA, fasse passer pour juste et normale une vision anti-humaine, selon laquelle la plénitude de la vie consisterait à avoir plus, à réduire la fragilité, à éliminer l’imprévu, à contrôler chaque chose. »La cible : le transhumanisme, et plus largement le post-humanisme qui menace notre intégrité à tous.« Notre rapport à la vie semble aujourd’hui en crise, dénonce le pape. Tout ce qui apparaît comme une “limite” – incapacité, maladie, vieillesse, souffrance, vulnérabilité – tend à être perçu avant tout comme un défaut à corriger, plutôt que comme un espace où l’humain mûrit et s’ouvre à la relation. Or, nous devons nous rappeler que l’humain ne s’épanouit pas malgré la limite, mais souvent à travers la limite ».Mais ce ne sont pas seulement les plus fragiles qui sont les exposés… « Un autre risque, moins visible mais non moins grave, poursuit Léon XIV, est celui du contrôle social, rendu possible par la collecte massive de données et l’utilisation de systèmes algorithmiques. Lorsque chaque geste laisse des traces – déplacements, achats, relations, préférences –, un nouveau pouvoir se crée : celui de profiler, de prévoir et d’orienter les comportements, souvent sans que les personnes en aient pleinement conscience. Si ces données sont utilisées pour prendre des décisions qui ont une incidence sur des opportunités concrètes (accès au crédit, recrutement, services), on risque de porter atteinte à la liberté et de discriminer les plus vulnérables. »Interpeller les consciences par l’IAÀ partir de l’IA, Léon XIV passe au crible l’ensemble des défis contemporains, en interpellant les consciences de chacun mais aussi des États et des organisations internationales. Ce n’est pas un catalogue de bons sentiments. Mais un inventaire très concret qui se présente à l’humanité face un moment clé de son histoire : le spectre d’une finitude face à des « dynamiques déshumanisante ».Léon XIV ne condamne pas, il n’admoneste pas, il ne sermonne pas (ce qu’avait tendance à faire son prédécesseur), bref il n’engueule pas le monde : il établit un inventaire précis presque clinique de ce nouveau monde – sans éluder aucun sujet, y compris celui des cryptomonnaies – qui survient sous nos yeux, qui peut être porteur de progrès et même d’espérances mais peut aussi précipiter notre perte si nous n’y prenons garde.Les termes sont forts : traite, esclavage (au passage, le pape demande pardon pour le rôle de l’Église dans les traites d’esclaves passées), colonialisme, etc. Mais ils sont à l’aune des enjeux qui touchent tout le spectre de nos organisations : individuelle, collective, étatique. Le travail, le chômage, la famille, la dignité humaine, la justice sociale, nos libertés, notre rapport à la vérité… « Nous ne pouvons pas considérer l’IA comme moralement neutre. »« Discerner »Tout ce qui constitue l’individu et nos socles collectifs sont disséqués. Il s’agit pour toutes et tous de « discerner » – le terme revient souvent sous la plume du pape (notons que c’est un mot-clé des jésuites) – ce qui est « beau, bon, vrai » dans l’immensité des propositions qui nous sont faites.Le but ? Transformer l’espace numérique d’un « espace de prédation » en « espace de protection », en appelant à la responsabilité de chacun et à une responsabilité partagée.Dans un environnement géopolitique marqué par la domination de « la culture de la force » et le retour de la guerre ; « culture de la puissance » que sert l’IA avec des armes de plus en plus sophistiquées.« La révolution numérique est en train de modifier la grammaire des conflits. La guerre visible côtoie désormais des formes hybrides : cyberattaques, manipulation de l’information, campagnes d’influence, automatisation des décisions stratégiques. L’IA intervient dans ces processus comme un facteur d’accélération, dans un contexte où de nombreuses technologies sont intrinsèquement ambivalentes : ce qui est conçu pour défendre peut rapidement être converti en attaque, et la frontière entre protection et agression tend à s’estomper. »« Sur le plan politique, il est urgent de passer de la “culture de la puissance” à une véritable “culture de la négociation” dans laquelle le dialogue et les relations diplomatiques deviennent une voie habituelle pour gérer les conflits ».Face à ce monde au bord du précipice, il devient impérieux de rassembler toutes les forces pour bâtir une « civilisation de l’amour » qui « n’est pas une utopie naïve mais un projet exigeant », insiste Léon XIV.