KI müsse auf Moral und menschliche Werte ausgerichtet sein, sagt Papst Leo XIV. Allerdings nütze auch das nichts, «wenn diese Moral von einigen wenigen bestimmt wird». In seiner ersten Enzyklika wird er deutlich.25.05.2026, 13.20 Uhr3 LeseminutenPapst Leo XIV. spricht während des Regina-Caeli-Gebets im Vatikan vom Fenster des Apostolischen Palastes mit Blick auf den Petersplatz zur Menge.Imago(dpa) Papst Leo XIV. hat in seiner ersten eigenen Enzyklika strenge Richtlinien für den Umgang mit Künstlicher Intelligenz (KI) verlangt. Nach einem Jahr im Amt warnte das Oberhaupt von weltweit 1,4 Milliarden Katholiken in dem Schreiben vor zahlreichen Gefahren, die die neue Technologie für das menschliche Zusammenleben bedeute. Er sieht aber auch Chancen. Die mehr als 100 Seiten lange Abhandlung trägt den Titel «Magnifica Humanitas» (Grossartige Menschheit).Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Die erste Enzyklika in der Amtszeit eines neuen Papstes gilt vielfach als eine Art Regierungserklärung für dessen Pontifikat. Solche «Rundschreiben» – so die wörtliche Bedeutung – sollen Gläubigen rund um die Welt einen moralischen Kompass geben. Als Nachfolger des verstorbenen Papstes Franziskus ist Leo seit Mai vergangenen Jahres im Amt. Er ist der erste US-Amerikaner an der Spitze der katholischen Weltkirche und mit seinen 70 Jahren ein verhältnismässig junger Papst.«Über die Bewahrung des Menschen im Zeitalter der KI»Das Schreiben trägt den Untertitel «Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz». Leo betont darin, dass KI in verschiedenen Bereichen eine «wertvolle Hilfe» sein könne. Vor allem warnt er jedoch vor deren Risiken – beispielsweise, dass nur wenige Menschen mit jetzt schon viel Besitz davon profitieren. «Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen.»Deshalb sei es «unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird». Auch der Besitz der Nutzerdaten müsse reguliert werden. Mehrfach betont der Papst, dass KI auf Moral und menschliche Werte ausgerichtet sein müsse. Allerdings nütze auch das nichts, «wenn diese Moral von einigen wenigen bestimmt wird». Vielfach wird das als Kritik an Tech-Milliardären in den USA verstanden.Autonome Waffensysteme sollen nicht entscheiden dürfenBesonders kritisch äusserte sich der Pontifex über die Auswirkungen von Künstlicher Intelligenz auf Konflikte. Mit KI-gestützten autonomen Waffensystemen seien Kriege «durchführbarer» gemacht worden, heisst es in dem Schreiben. Die KI müsse jedoch «entwaffnet» werden. Keinesfalls dürften Maschinen allein über Leben und Tod entscheiden. Wörtlich heisst es: «Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.»Bei der Vorstellung seiner ersten Enzyklika im Vatikan war Leo XIV. selbst dabei – ein Novum für die Kirche. Neben hochrangigen Kardinälen und Theologen war auch der Mitgründer des KI-Konzerns Anthropic, der Tech-Milliardär Chris Olah, anwesend. Das Unternehmen aus den USA liegt im Streit mit Präsident Donald Trump, weil es seine KI-Modelle nicht für autonome Waffensysteme zur Verfügung stellen will. Trump hatte sowohl Anthropic als auch den Papst zuletzt mehrfach kritisiert.«Bleiben wir der Wahrheit treu»In seinem Lehrschreiben warnt Leo davor, auf KI-Lügen und -Fälschungen hereinzufallen. Durch die «unaufhörlichen Flüsse von Informationen, Meinungen und Bildern» mit immer raffinierteren Algorithmen könnten Entscheidungen und Vorlieben leicht beeinflusst werden. Auf dem Höhepunkt seines Streits mit dem Papst hatte Trump ein KI-generiertes Bild veröffentlicht, das ihn selbst als Jesus zeigte. Erwähnt wird der US-Präsident in der Enzyklika nicht.Mehrfach stellt der Papst in dem Text heraus, dass Mensch beziehungsweise das Menschliche trotz aller technologischen Fortschritte an erster Stelle stehen müsse. «Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.»