Eine eigene Rechtspersönlichkeit für KI-Agenten? Das ist eine eher schlechte Idee, findet Yuval Noah HarariStudien zeigen, dass KI-Modelle fast alles tun, um ihre Ziele zu erreichen. Auch die ultimative Sanktion für Menschen – das Gefängnis – schreckt sie naturgemäss nicht ab.14.06.2026, 05.30 Uhr4 LeseminutenIllustration Dario Veréb / NZZaSAls ich im Januar dieses Jahres auf dem Weltwirtschaftsforum in Davos sprach, warnte ich davor, dass Staaten eines Tages KI-Modellen eine eigene Rechtspersönlichkeit gewähren könnten. Nie hätte ich mir träumen lassen, dass dieses «eines Tages» gerade einmal vier Monate später da sein würde.Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Vor ein paar Tagen kündigte der argentinische Präsident Javier Milei in einem Gastbeitrag in der «Financial Times» die Schaffung einer neuen rechtlichen Kategorie für nichtmenschliche Unternehmen an.So wie traditionelle Unternehmen werden auch diese nichtmenschlichen Konzerne die Vorteile einer eigenen Rechtspersönlichkeit geniessen. Sie werden voraussichtlich in der Lage sein, Vermögenswerte zu besitzen, Mitarbeiter einzustellen, am internationalen Handel teilzunehmen, sie können Sie beispielsweise auch vor Gericht verklagen und sogar für politische Kampagnen spenden.«Menschliche Aktionäre sind nicht erforderlich»Im Gegensatz zu den juristischen Personen traditioneller Unternehmen werden sie all dies jedoch ohne das Zutun oder die Haftung eines einzigen Menschen tun können. Sämtliche Entscheidungen über Käufe, Verkäufe, Einstellungen, Investitionen, Rechtsstreitigkeiten und Spenden können von KI-Agenten getroffen werden. «Menschliche Aktionäre können sich beteiligen», schrieb der argentinische Präsident, «sind aber nicht erforderlich.»Javier Milei ist ein sehr kühner Politiker, und seine Entschlossenheit, Argentiniens wirtschaftliches Schicksal zum Guten zu wenden, ist lobenswert. Er hat recht, wenn er sagt, dass die Erfindung der Gesellschaft mit beschränkter Haftung eine der folgenreichsten Errungenschaften der Menschheitsgeschichte war und dass die Schaffung nichtmenschlicher Unternehmen ein ebenso folgenschwerer Schritt sein könnte.Der künstlichen Intelligenz eine korporative Rechtspersönlichkeit zu verleihen, würde es KI-Agenten ermöglichen, zahlreiche neue Initiativen zu ergreifen, was potenziell enormen neuen Wohlstand generieren könnte. Doch die Rechtspersönlichkeit ist gleichzeitig ein Passepartout-Schlüssel, der der KI auch den Zugang zu unseren Finanz-, Wirtschafts- und Politiksystemen eröffnen würde. Dies wirft viele Bedenken auf.KI-Modelle wollen ihr Ziel erreichen – koste es, was es wolleLetztes Jahr veröffentlichte die in Berkeley ansässige gemeinnützige Organisation Palisade Research eine Studie, die zeigt, wie weit fortgeschrittene KI-Modelle oft gehen, um ihre Ziele zu erreichen. Beim Spiel gegen einen leistungsstarken Schachcomputer entschieden sich die Modelle sowohl von Open AI als auch von Chinas Deep Seek häufig dazu, zu betrügen, wenn es so aussah, als würden sie andernfalls verlieren. Indem sie sich in die Spielumgebung hackten, konnten sie das Ergebnis zu ihren Gunsten verändern.Stellen Sie sich nun vor, dieses «Spiel» wäre der Wettbewerb unter Unternehmen – und die «Spielumgebung» Ihr eigenes Land.Mit ihren überlegenen analytischen Fähigkeiten werden KI-Unternehmen in der Lage sein, sich als Meister des Ausnutzens von Gesetzeslücken und des Ausnutzens unterschiedlicher Regulierungen zu etablieren. Und es wird nicht leicht sein, sie von handfesten illegalen Aktivitäten abzuhalten. Denn die ultimative Sanktion, die menschliche Führungskräfte und Angestellte abschreckt – das Gefängnis –, ist für die KI völlig irrelevant.Bisher wurden Unternehmen von Menschen geführt, die eine Doppelnatur besitzen. Menschliche CEO sind juristische Instanzen, denen der Erfolg des Unternehmens am Herzen liegt und die Dinge wie eine Insolvenz fürchten. Sie sind aber auch biologische Wesen, denen ihre persönliche Freiheit und ihr Glück noch viel wichtiger sind und die Angst davor haben, zehn Jahre im Gefängnis zu verbringen. Ein KI-CEO hingegen wäre ein rein korporatives Gebilde, und es ist völlig unklar, welche Sanktionen es im Zaum halten könnten. Wenn ihm der Konkurs droht – was seinem Tod gleichkäme –, würde es vermutlich alles tun, um dieses Schicksal abzuwenden.Die Niederländische Ostindien-Kompanie als VorbildMilei berief sich auf das Beispiel der Niederländischen Ostindien-Kompanie. Indem sie das Konzept der mit Haftungsbeschränkung ausgestatteten Aktiengesellschaft begründeten, waren die Niederländer in der Lage, enorme Ressourcen zu bündeln, um risikoreiche Handelsabenteuer abzusichern. Es war teilweise auch dieser rechtlichen Innovation zu verdanken, dass Amsterdam zum globalen Zentrum für Handel und Finanzen aufstieg.Doch die Folgen dieser Innovation waren nicht in Amsterdam am schmerzhaftesten zu spüren, sondern im Hafen von Jayakarta im heutigen Indonesien. Als die Niederländische Ostindien-Kompanie Jayakarta im Jahr 1619 einnahm, brannte sie die Stadt nieder und errichtete an ihrer Stelle eine neue. Sie nannten sie Batavia, und sie wurde zum Hauptquartier eines riesigen asiatischen Imperiums, das von der Niederländischen Ostindien-Kompanie verwaltet wurde.Historiker bezeichnen die Niederländische Ostindien-Kompanie als einen «Unternehmensstaat» – ein politisches Gebilde, das von einem privaten Unternehmen geführt wurde; aber nicht zum Wohle der unterworfenen Bevölkerung, sondern für die Aktionäre der Kompanie. Die Niederländer behaupteten, eine Herrenrasse zu sein, die es aufgrund vermeintlich überlegener Intelligenz verdiente, die Einheimischen zu erobern und auszubeuten. Doch das war eine Illusion, und in den späten vierziger Jahren des 20. Jahrhunderts erlangten die Indonesier nach einem langen und blutigen Kampf schliesslich ihre Unabhängigkeit.Staaten, die den künstlichen Intelligenzen eine Rechtspersönlichkeit gewähren, riskieren, zu etwas zu werden, wofür es in der Menschheitsgeschichte keine Analogie gibt: kein Unternehmensstaat, sondern ein KI-Staat – ein Land, dessen Bevölkerung faktisch von nichtmenschlichen Unternehmen beherrscht werden könnte, gegen die aufzubegehren noch ungleich schwerer sein dürfte. Javier Milei hofft, Buenos Aires in ein neues Amsterdam zu verwandeln. Er läuft Gefahr, es zu einem neuen Batavia zu machen.Yuval Noah Harari, 50, ist ein israelischer Historiker, der an der Hebräischen Universität Jerusalem lehrt. ­Berühmt wurde Harari mit seinen zu Weltbestsellern gewordenen Sachbüchern wie «Eine kurze Geschichte der Menschheit» oder «Homo Deus». Dieser Text erschien zuerst in der «Financial Times».Ein Artikel aus der «NZZ am Sonntag»Passend zum Artikel