GastkommentarThomas LemckeWer haftet intern für KI-Entscheide? – Der Einsatz von Bots stellt Unternehmen vor neue Fragen der VerantwortlichkeitKünstliche Intelligenz schafft gravierende Governance-Probleme. Bis anhin wird über Folgen und Lösungen noch kaum nachgedacht.15.07.2026, 05.15 Uhr3 LeseminutenIllustration Anja Lemcke / NZZDurch den Einsatz von künstlicher Intelligenz beginnen Organisationen und Unternehmen Entscheidungen zu treffen, deren Zustandekommen sie selbst nicht mehr vollständig rekonstruieren können. Dennoch müssen sie ihr Verhalten und dessen Folgen verantworten. Darin liegt eine Verschiebung, die in der gegenwärtigen Debatte über KI deutlich unterschätzt wird.Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Die öffentliche Diskussion wie auch die Auseinandersetzung in der Fachwelt konzentrieren sich häufig auf Modelle, Daten und Regulierung. Sie behandeln KI primär als technisches oder rechtliches Problem. Was dabei aus dem Blick gerät, ist die Veränderung der Entscheidungslogik innerhalb von Organisationen. Mit der operativen Einbindung von KI-Systemen verschiebt sich nicht nur die Weise, wie Entscheidungen entstehen, sondern auch jene, wie sie begründet und zugerechnet werden können.Aushebeln der HierarchieKlassischerweise operieren Unternehmen mit einer klaren Annahme: Entscheidungen haben eine feste Hierarchie. Sie lassen sich Verantwortlichen, Zuständigkeiten und Prozessen zuordnen. Die interne Governance ist entsprechend auf Regelbindung und Stabilität ausgelegt. Sie schafft Strukturen, innerhalb deren Entscheidungen nachvollziehbar entstehen und Verantwortung eindeutig zugewiesen werden kann.Diese Logik gerät unter Druck, sobald KI-Systeme in die Prozesse integriert werden. Denn sie operieren nicht strikt regelbasiert, sondern adaptiv, kontextabhängig und lernend. Ihre Ergebnisse sind nicht vollständig aus vorab definierten Regeln ableitbar. Entscheidungen entstehen damit zunehmend in Konstellationen, in denen menschliche und algorithmische Beiträge ineinandergreifen – ohne dass sich ihr jeweiliger Anteil eindeutig isolieren lässt.In der Praxis zeigt sich dies bereits heute. Unternehmen setzen KI bei der Risikobewertung, bei der Personalauswahl oder bei der operativen Steuerung ein. Die Ergebnisse sind oft funktional überzeugend – die Bots erleichtern die Arbeit, und das Resultat überzeugt. Gleichzeitig bleibt ihre Genese partiell intransparent. Organisationen können die Entscheidung vertreten – aber nicht mehr vollständig erklären, wie sie zustande gekommen ist.Damit entsteht ein strukturelles Problem: Verantwortung setzt Zurechenbarkeit voraus. Wenn Entscheidungen jedoch nicht mehr eindeutig zugeordnet werden können, gerät die Grundlage organisationaler Verantwortung ins Wanken. Unternehmen wie auch prospektiv die öffentliche Hand stehen vor der paradoxen Situation, für Ergebnisse einzustehen, deren Entstehung sie nur noch begrenzt kontrollieren oder erklären können.Die alten Werkzeuge greifen nichtDie naheliegende Reaktion besteht darin, Regulierung und Kontrolle zu verstärken. Doch genau hier zeigt sich die Begrenztheit des bestehenden Instrumentariums. Klassische Governance-Modelle zielen darauf ab, Unsicherheit durch das Schaffen von Regeln zu reduzieren. Sie setzen voraus, dass sich relevante Entscheidungssituationen im Voraus strukturieren lassen. KI-Systeme operieren jedoch gerade dort, wo diese Vorstrukturierung an ihre Grenzen stösst.Das eigentliche Problem ist daher kein Mangel an Regulierung, sondern eine Verschiebung bei der Steuerung und deren Voraussetzungen. Neben regelbasierte Steuerung tritt eine zweite Dimension. Nötig wird eine bewusste Gestaltung von Entscheidungsarchitekturen unter Unsicherheit.Organisationen müssen klären, welche Formen von Transparenz sie herstellen können, welche Arten von Begründung sie erwarten und welche Verantwortung sie auch dann übernehmen, wenn Entscheidungsprozesse nicht vollständig rekonstruierbar sind.Das verändert den Charakter von Governance grundlegend. Sie wird weniger zu einem System der Regelbindung als vielmehr zu einer Praxis der fortlaufenden Kalibrierung: zwischen Kontrolle und Offenheit, Vorstrukturierung und situativer Anpassung.Die zentrale Herausforderung besteht damit nicht mehr darin, bessere Regeln zu formulieren. Sie besteht darin, Verantwortung unter Bedingungen unvollständiger Erklärbarkeit zu organisieren. Organisationen müssen lernen, für Entscheidungen einzustehen, die sie nicht mehr vollständig durchdringen – und in diesem Prozess eine neue Form der Steuerung zu entwickeln.Thomas Lemcke ist Gründer und arbeitet im Bereich KI-Governance und Organisation.Passend zum Artikel