Künstliche Intelligenz (KI) entwickelt sich von einem Werkzeug immer mehr zu einer autonomen Instanz in Unternehmen. Können KI-Agenten bald komplett die Kontrolle übernehmen, und sollten wir das zulassen? Brisanz gewonnen hat die Frage durch ein Interview des argentinischen Ministers Federico Sturzenegger mit der Frankfurter Allgemeinen Sonntagszeitung (F.A.S. vom 24. Mai 2026).Der Ökonom sieht sich als personifizierte Kettensäge, die bürokratische Fesseln zerschneiden soll. Vor radikalen Maßnahmen schreckt er also nicht zurück. Unter anderem will er Argentiniens Firmenrecht verändern, damit Unternehmen, die rein aus Künstlicher Intelligenz entstanden sind und keine Menschen beschäftigen, eine Gesellschaft mit beschränkter Haftung anmelden können. „Wir werden das erste Land sein, das diese Regeln verabschiedet“, sagt Sturzenegger. Er erwartet, dass dadurch faszinierende Debatten aufkommen werden.Welche Debatten könnten das sein? Spricht man mit Betriebswirtinnen und Betriebswirten, stellen sich interessante Fragen, nicht nur zur Haftung, auch zur Unternehmensführung, Kontrolle und Steuerung.Uwe Sachse von der Hochschule Albstadt-SigmaringenAus Sicht von Uwe Sachse, Professor für Internationales Management an der Hochschule Albstadt-Sigmaringen, stößt die Betriebswirtschaftslehre an ihre Grenzen, wenn es keine Abteilungen mit Menschen mehr gibt und stattdessen Multiagenten die Arbeit in Unternehmen erledigen. „Unser grundlegendes Problem, die Suche nach der besten Möglichkeit eines effizienten Ressourceneinsatzes, wäre dann gelöst“, sagt Sachse. Denn Maschinen arbeiten in Lichtgeschwindigkeit und werden nie müde. Das klingt nach einem Paradies nicht nur für Arbeitgeber.Klassische ökonomische Gesetzmäßigkeiten würden laut Sachse entfallen, wenn der Mensch nicht mehr Teil der Gleichung sei. Human Resource Management oder Leadership wären überflüssig, Budgetierungen und Controlling würden automatisch laufen. „Der Controlling-Kollege kann direkt in den Ruhestand wechseln“, sagt Sachse und räumt ein, dass diese Vorstellungen einerseits inspirierend klingen, andererseits schmunzeln lassen.Wie autonom die KI schon arbeitetNach Einschätzung von Barbara Weißenberger, BWL-Professorin an der Heinrich-Heine-Universität Düsseldorf, ist es technisch auf jeden Fall möglich, nahezu alle administrativen Funktionen eines Unternehmens allein mit Künstlicher Intelligenz abzuwickeln. „Das ist auch sinnvoll, wenn man es klug anstellt“, sagt sie. Denn das könne gewaltige Produktivitätspotentiale freisetzen und menschliche Arbeitsleistung in wichtigere Bereiche lenken, etwa in kreative Arbeit oder in die Betreuung von Kindern und Älteren.Stefan FeuerriegelLMU MünchenAber kann die KI wirklich so selbständig arbeiten? „In manchen Bereichen existieren schon heute Systeme mit hoher Autonomie“, sagt Stefan Feuerriegel, Head des Institute of Artificial Intelligence (AI) in Management an der Ludwig-Maximilians-Universität München (LMU). Besonders im Finanzwesen oder im Umfeld von Smart Contracts würden Entscheidungen, Vertragsausführungen oder Transaktionen zunehmend automatisiert ausgelöst. Teils geschehe das ohne direkten menschlichen Eingriff, teils sogar ohne die Möglichkeit der Korrektur und ohne Rechenschaft. Technisch ist daher laut Feuerriegel durchaus vorstellbar, dass KI-Systeme künftig operative Unternehmensprozesse weitgehend selbst steuern oder das gesamte Unternehmen orchestrieren. „Salopp formuliert, ist das bei Uber schon heute fast so“, sagt Feuerriegel.Was bleibt für Menschen noch zu tun und zu entscheiden, wenn der Laden dank KI quasi von allein läuft? Der Mensch bleibt laut BWL-Professorin Weißenberger überall da im Spiel, wo es um Probleme geht, die noch nicht klar definiert sind. „Da sind Menschen mit ihren sozialen und emotionalen Fähigkeiten und ihrem Weltwissen überlegen, auch wenn die Techszene das nicht gern hört“, sagt sie. Daher könne die für unternehmerische Innovationen nötige Kreativität nicht originär von KI-Agenten geleistet werden.Barbara WeißenbergerUni DüsseldorfDie Wissenschaftlerin vergleicht die Situation mit einem selbstfahrenden Auto. „Die KI kann das Steuer übernehmen, aber nur, wenn klar ist, wo das Auto hinfahren soll und wo der richtige Weg verläuft“, sagt Weißenberger. Ändere sich das Ziel der Reise oder tauchten Hindernisse auf, müsse der Mensch eingreifen, nach Alternativen suchen und neue Ziele setzen.Die für Unternehmertum nötige schöpferische Dynamik komme nicht aus Algorithmen. So hätte die KI wahrscheinlich nicht das Auto erfunden, das durch die von Henry Ford eingeführte Fließbandfertigung zu einem Produkt für die breite Masse wurde. „Hätte Ford auf eine KI gehört, wäre er Pferdezüchter geworden – wahrscheinlich ein sehr erfolgreicher“, sagt Weißenberger.Für Jannis Bischof, Prodekan für Betriebswirtschaftslehre an der Universität Mannheim, sind von Künstlicher Intelligenz betriebene Unternehmen mit den Werkzeugen der BWL greifbar und steuerbar. Auch KI-Unternehmen müssten einen Überschuss erwirtschaften, indem sie ein Marktsegment mit tragfähiger Nachfrage nach ihren Produkten und Dienstleistungen bedienen. Allerdings sei ein wichtiger Unterschied zu beachten. „Solange KI als Produktionsfaktor eingesetzt wird, indem sie Prozesse automatisiert, die sonst Menschen durchführen, stellen sich keine grundsätzlich neuen betriebswirtschaftlichen Fragen“, sagt Bischof.Etwas ganz anderes sei es, wenn KI als autonomer Entscheidungsträger agiere. Dann fehle die vom Eigentümer vorgegebene Zielfunktion als Voraussetzung für klassische Werkzeuge der Steuerung. Hier deute sich an, was für die Governance, also die Führung und Kontrolle, von KI-Unternehmen geklärt werden müsse. „Die entscheidende Frage ist, wer die Ziele setzt und wie sichergestellt wird, dass der KI-Agent sie verfolgt“, sagt Bischof.Die GmbH, eine Erfindung mit weitreichenden FolgenWas hat Argentinien genau vor? Für die argentinische Regierung ist es entscheidend, KI-Unternehmen eine Beschränkung der Haftung zu erlauben. Warum, erklärt Argentiniens Präsident Javier Milei in einem Gastbeitrag für die „Financial Times“, der Anfang Juni veröffentlicht wurde, etwa zwei Wochen nach dem F.A.S.-Interview von Sturzenegger. Der Minister hat auch zu dem FT-Artikel des Präsidenten beigetragen.Darin vergleicht Milei den heutigen KI-Boom mit der industriellen Revolution, die ein immenses Wachstum der Wirtschaft und der Bevölkerung entfesselt habe. Möglich gewesen sei das nicht nur dank des Erfindungsgeists der Ingenieure. Eine ebenso wichtige Voraussetzung sei die im 17. Jahrhundert von niederländischen Kaufleuten erfundene Gesellschaft mit beschränkter Haftung gewesen. Erst sie habe das Potential des Kapitalismus so richtig von der Leine gelassen. „So wie die Industrialisierung uns von den Grenzen der menschlichen Muskelkraft befreit hat, wird uns die KI von den Grenzen des menschlichen Gehirns befreien und die Produktivität über unsere wildesten Träume hinaus steigern“, schreibt Milei.Argentiniens Präsident Javier MileidpaDas klingt fürwahr traumhaft. Doch was hat das mit der beschränkten Haftung zu tun? Beschränkte Haftung heißt, dass die Eigentümer eines Unternehmens nicht für dessen Schulden aufkommen müssen. Kommt es zu einer Pleite, verlieren die Inhaber nur ihr im Unternehmen steckendes Kapital. Ihr privates und restliches Vermögen dagegen ist vor Ansprüchen der Gläubiger geschützt. Die beschränkte Haftung greift im deutschen Gesellschaftsrecht für Kapitalgesellschaften, schützt also etwa Aktionäre einer Aktiengesellschaft (AG) oder Inhaber und Teilhaber einer Gesellschaft mit beschränkter Haftung (GmbH).Milei: Menschliche Anteilseigner sind nicht mehr erforderlichArgentinien will eine neue Art von Unternehmen im Gesetz verankern. Präsident Milei bezeichnet diese als nichtmenschliche Firmen, die von KI-Agenten oder Robotern betrieben werden. Soweit solche Systeme unabhängige Urteile in unvorhersehbaren Situationen fällen, was sie laut Milei tun müssen, wenn sie einen wirklichen Nutzen haben sollen, entstünden dadurch Risiken.Die Beschränkung der Haftung sei daher kein Luxus für solche Institutionen, sondern eine Voraussetzung für ihre Existenz. „Menschliche Anteilseigner können dabei sein, sie sind aber nicht erforderlich“, schreibt der Präsident. Er bekennt sich dazu, Künstliche Intelligenz unreguliert zu lassen, damit sie sich frei von der „tödlichen Hand“ einer verfrühten und falsch verstandenen Regulierung entwickeln könne.Mileis Bürokratie-Aufräumer Sturzenegger sieht laut F.A.S.-Interview die relativ strenge KI-Regulierung in Europa als Wettbewerbsnachteil für den alten Kontinent. Die KI-Unternehmen würden lieber nach Argentinien kommen und Europa ohne KI-Produktion dastehen lassen, hofft er.Allerdings wissen auch Europäer, dass Regulatorik kein Allheilmittel ist. „Ganz gewiss brauchen wir in der EU keine weitere Regulierung, die innovative Unternehmen, die gerade erst Geschäftsmodelle entwickeln, schon im Vorhinein einschränkt“, sagt BWL-Professor Bischof. Regulierung unter Unsicherheit erzeuge systematische Überregulierung, verdränge Innovation in weniger regulierte Märkte und entziehe damit genau jenen Volkswirtschaften Wertschöpfung, in denen Politiker glaubten, durch Regulierung Risiken zu minimieren.Für Benedikt Schnellbächer, BWL-Professor an der Universität des Saarlands, sollte Europa aber nicht mit Deregulierung auf Argentiniens Vorstoß reagieren. Die Europäer sollten die richtige Gegenfrage stellen, was KI für Unternehmen wirklich wertvoll mache. Geklärt werden müsse, wer haftet und wer verantwortet.„Sturzeneggers Modell klingt radikal, löst aber das eigentliche Problem nicht“, sagt Schnellbächer. Jedes Unternehmen brauche Eigentümer, die im Handelsregister stehen. Wer also ein KI-Unternehmen ohne Menschen gründe, sei dessen Gesellschafter. „Damit ist immer ein Mensch im Hintergrund, er macht sich nur unsichtbar. Das ist regulatorisch problematisch, nicht innovativ“, sagt der Fachmann für digitale Transformation und Existenzgründung.Ähnlich sieht es Management-Professor Sachse. „KI-Agenten können nicht haftbar gemacht und auch nicht ins Handelsregister eingetragen werden, weil ein Algorithmus keine Rechtspersönlichkeit darstellt“, sagt er. Das ginge vermutlich erst, wenn eine elektronische Rechtspersönlichkeit eingeführt würde. Auch laut Bischof von der Uni Mannheim könnten KI-Agenten nach geltendem Recht keine Unternehmen mit Kapital ausstatten. Das Geld müsse von Investoren mit einer Rechtspersönlichkeit kommen.Die Herausforderung liegt laut KI-Wissenschaftler Feurerriegel weniger in der Technik als vielmehr in der Kontrolle und Haftung von Unternehmen. „Die Idee der GmbH besteht historisch darin, unternehmerisches Risiko begrenzbar zu machen und dadurch Investitionen zu fördern“, sagt er. Auch ein KI-Unternehmen könne theoretisch mit Kapital ausgestattet werden und eigenständig wirtschaftlich handeln. Offen bleibe aber die zentrale Frage der Verantwortlichkeit, also wer für Fehler, Schäden oder regulatorische Verstöße hafte. „Trifft das die Eigentümer, die KI-Entwickler und Betreiber oder weiter einen menschlichen Kontrolleur?“, fragt Feuerriegel. „Und was passiert, wenn eine Mahnung ins Haus flattert oder der Gerichtsvollzieher anklopft?“Jannis Bischof, Universität MannheimAnna LogueSolche Fragen beschäftigten die BWL nicht erst seit Ausbruch der KI-Revolution. Schon die Institutionenökonomik verwendet für Akteure, die im Sinne eines Auftraggebers oder Eigentümers handeln sollen, den Begriff des Agenten. Obwohl KI-Agenten etwas anderes sind als menschliche Agenten im Sinne der bisherigen ökonomischen Theorie, verlaufen die Fronten ähnlich. „Konflikte zwischen Eigentümern und ihren Agenten sind nichts Neues für die BWL“, sagt der Mannheimer BWL-Dekan Bischof. Auch die Eigentümer von KI-Unternehmen müssten für Kontrolle und Durchgriff sorgen.Wie Kontrolle und Durchgriff erfolgen, werde sich am Markt entwickeln. Denkbar seien vertraglich fixierte Prompting-Rechte oder Einfluss auf die zugrunde liegenden Codes der KI-Agenten. Die etablierte Corporate Governance hat sich laut Bischof zunächst ebenfalls weitgehend durch am Markt entstandene Ideen entwickelt und sei erst anschließend in Gesetze gegossen worden.Künstliche Intelligenz hat keinen eigenen moralischen KompassWenn reine KI-Firmen wie nach argentinischen Vorstellungen wirklich ohne Geschäftsführer agieren sollen, müssten wir uns laut BWL-Professorin Weißenberger überlegen, ob wir das wirklich wollen. „Der KI fehlt ein eigenes Wertebewusstsein“, sagt sie. Moral könne sie zwar statistisch und algorithmisch nachahmen, aber keine Verantwortung übernehmen.Dass auch im regulierungsfreudigen Europa digitale Innovationen möglich sind, zeigt das Start-up ZopaAI von BWL-Professor Schnellbächer. Es steht für wissenschaftlich verifizierte KI für die Nutzung in Unternehmen, die das Problem von KI-Halluzinationen vermeiden soll. Immer wieder narrt die KI ihre Nutzer, indem sie Fakten und Zitate erfindet, die plausibel klingen, aber nicht existieren. ZopaAI prüft daher KI-Aussagen durch einen Vergleich mit verlässlichen wissenschaftlichen Publikationen, um halluzinationsfreie, belegbare Handlungsempfehlungen zu erzeugen. „Wir ersetzen keine Menschen durch KI, sondern schaffen eine KI, der Menschen vertrauen können“, sagt Schnellbächer. Die Herrschaft über die Daten soll bei den Nutzern liegen. Der Wettbewerbsvorteil Europas gegenüber Argentinien könne darin bestehen, ein Standort zu werden, dem Unternehmen ihre geschäftskritischen Entscheidungen anvertrauen.