Wenn Maschinen töten: Welche Rolle bleibt dem Menschen im Krieg?

Pro ArtikelKillerdrohnen suchen selbständig ihre Ziele, Algorithmen treffen Entscheidungen in Sekunden: Die künstliche Intelligenz revolutioniert das Schlachtfeld. Noch nie hat sich die Kriegsführung so schnell verändert.28.08.2026, 05.30 Uhr21 LeseminutenAntwort: Eine kleine Drohne schiesst vom Himmel herab und fliegt auf eine Tankstelle zu. Die Drohne wird nicht von einem Piloten gelenkt, sondern von künstlicher Intelligenz. Als sie in der Nähe der Tankstelle ist, sucht sie sich ihr Ziel selbst aus. Sie ist wohl darauf programmiert, in den Propangas-Tank zu fliegen und diesen in einen wuchtigen Feuerball zu verwandeln. Doch etwas läuft schief. Die Drohne kracht in eine Mauer und explodiert. Eine 19-jährige Studentin und zwei weitere Passanten versuchen vergeblich zu fliehen. Alles passiert in Sekundenschnelle: Granatsplitter töten die drei.Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Dies ist keine Szene aus einem Science-Fiction-Film. Am 6. Juli 2026 tötet eine russische Killerdrohne in der Stadt Saporischja im Südosten der Ukraine drei Zivilisten. Es ist die neue Realität, wie im Krieg auch über Leben und Tod entschieden wird.Jahrtausendelang waren Waffen Instrumente, die der Mensch nutzte, um besser zu kämpfen. Nun werden sie immer selbständiger. Dank künstlicher Intelligenz (KI) haben Waffen quasi ein Gehirn bekommen.Die grosse Frage ist: Welche Rolle wird der Mensch im Krieg künftig überhaupt noch spielen?Wie grundlegend KI den Krieg verändert, wird nicht nur im Ukraine-Krieg sichtbar – sie spielte auch bei den Kriegen im Gazastreifen und in Iran eine wichtige Rolle. Die Grösse einer Armee, die Zahl ihrer Panzer oder Kampfflugzeuge scheint immer weniger wichtig. Wer die beste Technologie hat, wird künftig Kriege gewinnen.Die vier Protagonisten dieser Geschichte haben diese Entwicklung schon lange kommen sehen. Sie beschäftigen sich seit Jahren mit automatisierten Kriegen, die nun Wirklichkeit werden.Der ehemalige amerikanische Elitesoldat Paul Scharre warnt davor, Entscheidungen an Maschinen abzugeben, weil er in Afghanistan selber erlebt hat, wie schwer es sein kann, Freund und Feind auseinanderzuhalten.Der Drohnenhersteller Sven Kruck baut an einer Zukunft mit immer weniger Menschen auf dem Schlachtfeld. Er glaubt, dann werde es automatisch auch weniger Opfer geben.Die Harvard-Juristin Bonnie Docherty kämpft dafür, dass eine rote Linie gezogen wird, bevor Maschinen selbständig töten.Der Niederländer Robert in den Bosch, Diplomat für Abrüstung, bringt in den kommenden Tagen in Genf 128 Staaten an einen Tisch, weil für ihn so viel auf dem Spiel steht wie noch nie: die Sicherheit der Welt.Auf einem Bildschirm ist die Explosion eines militärischen Ziels nach einem Drohnenangriff zu sehen. Vilnius, Litauen, 4. Juni 2026.Paul Scharre, der Militärexperte: «KI wird das Denken auf dem Schlachtfeld übernehmen.»Wenn man Paul Scharre fragt, wie sich künstliche Intelligenz auf den Krieg auswirken wird, holt er weit aus und beginnt vor vielen tausend Jahren. Seit der Mensch zum ersten Mal aus Wut einen Stein geworfen hat, verfolgt er im Kampf das gleiche Ziel: den Feind zu treffen, ohne sich selbst in Gefahr zu bringen.Deshalb hat er die Steinschleuder erfunden, den Pfeilbogen, das Gewehr, den Panzer und die Atomrakete, die über Meere und Kontinente fliegen und den Gegner aus sicherer Entfernung angreifen kann.Heute stehe die Menschheit wieder vor einer Revolution in der Kriegsführung, sagt Scharre. «Und sie ist grösser als alles, was wir bisher kannten.» Denn mit der künstlichen Intelligenz verändern sich nicht nur die Waffen. Der Krieg selbst verändert sich. Plötzlich scheint möglich, wovon Generäle seit Jahrhunderten träumen: eine unbesiegbare Armee. Eine Armee aus Maschinen, die keine Angst kennen und niemals müde werden.Paul Scharre hat etwas erstaunlich Unaufgeregtes für einen Mann, der beruflich über Killerroboter, Drohnenschwärme und die Zukunft des Tötens nachdenkt. Der Amerikaner war Soldat in einer Eliteeinheit und Scharfschütze, arbeitete als Berater für das Pentagon und ist heute Vizepräsident des Washingtoner Think-Tanks Center for a New American Security. Laut dem Newsmagazin «Time» gehört er zu den einflussreichsten Menschen im Bereich der künstlichen Intelligenz. Eine Gesprächsanfrage lehnte Scharre ab, weil er gerade viel zu viel zu tun habe. Seine Zitate stammen aus seinen Büchern und Podcasts.Eigentlich hat die Geschichte der autonomen Maschinen ganz harmlos begonnen. Im Alltag haben wir uns längst daran gewöhnt, dass sie Aufgaben selbständig für uns erledigen: der Thermostat, der automatisch die Heizung anstellt, der Staubsaugerroboter, der allein die Wohnung putzt, der Autopilot, der ein Flugzeug eigenständig steuert.Scharres Lieblingsbeispiel sind die selbstfahrenden Autos. Erst war da der Tempomat, dann lernten die Fahrzeuge selbständig, in der Spur zu bleiben, bei Gefahr zu bremsen und beim Einparkieren zu helfen. «Und irgendwann konnten sie ganz allein fahren. Eine sehr ähnliche Entwicklung sehen wir bei den Waffen.»Viele militärische Anwendungen von KI sind unumstritten. Doch bei einer Frage wird es heikel: Darf eine Maschine auch selbständig töten? Instinktiv schrecke man vor dieser Vorstellung zurück, sagt Scharre. Wir würden auch nicht wollen, dass im Spital ein Computer entscheide, ob bei einem Komapatienten die Geräte abgeschaltet würden.Genauso geht es uns mit Maschinen, die selbständig töten können. Sie heissen «Laws»: Lethal Autonomous Weapons Systems, tödliche autonome Waffensysteme. Darunter versteht man eine Waffe, die quasi denken kann. Sie kann mithilfe von Sensoren und Software selbständig ein Ziel suchen, angreifen und über Leben und Tod entscheiden – ohne dass ein Mensch dies überwacht. Ein solches Gerät kann eine Drohne sein, ein Roboter, ein U-Boot oder ein Kampfflugzeug.Was es bedeutet, über Leben und Tod entscheiden zu müssen, weiss Paul Scharre aus eigener Erfahrung. Wenn er erklären will, warum er autonome Waffen für gefährlich hält, erzählt er diese Geschichte.Vor über zwanzig Jahren war Scharre als Soldat in den Bergen Afghanistans im Einsatz. Er patrouillierte mit einem kleinen Aufklärungsteam auf einem Hügelkamm, als er sah, wie sich ihnen ein afghanischer Mann näherte. Aus der Entfernung konnte Scharre nicht erkennen, ob der Mann bewaffnet war oder ob er ein Funkgerät bei sich trug. Vielleicht war er einfach nur ein Ziegenhirte.Scharre schlich sich an ihn heran und brachte sein Scharfschützengewehr in Stellung. Er war jetzt so nahe, dass er hören konnte, dass der Mann mit jemandem redete. Gab er Informationen an andere Kämpfer weiter? «In meinem Kopf wog ich ständig diese Entscheidung ab: Soll ich auf den Mann schiessen?»Dann begann der Afghane auf einmal zu singen. «Und ich entspannte mich sofort, denn es kam mir bizarr vor, dass er singen würde, wenn er ein feindlicher Kämpfer wäre.» Scharre fragt sich: Hätte eine Maschine auch so entschieden wie er? Oder hätte sie auf den Mann geschossen? Manchmal müsse man sich auf den Instinkt verlassen, und Maschinen hätten keinen.Bei einem weiteren Einsatz stellte sich heraus, dass ein sechsjähriges Mädchen für die Taliban spionierte. «Das Kriegsrecht legt kein Mindestalter für Kombattanten fest. Indem das Kind spionierte, beteiligte es sich an den Kampfhandlungen. Trotzdem wäre keiner von uns auf die Idee gekommen, zu schiessen.»Menschen können anders als Maschinen unterscheiden zwischen dem, was gesetzlich erlaubt ist, und dem, was moralisch richtig ist.Und doch vertrauen wir der Technologie immer mehr. Seit den 1980er Jahren können automatisierte Systeme anfliegende Raketen abschiessen, wenn für eine menschliche Reaktion keine Zeit mehr bleibt. Inzwischen starten und landen unbemannte Flugzeuge selbständig auf Flugzeugträgern, Wachroboter schützen Grenzen, und autonome U-Boote legen Tausende Kilometer ohne Besatzung zurück.Keines dieser Systeme entscheide selbständig über den Tod von Menschen. Aber Scharre sagt, die Versuchung, den Krieg immer mehr den Maschinen zu überlassen, sei gross. «Ich glaube, dass KI in der Zukunft das Denken auf dem Schlachtfeld übernehmen wird.»Wie ein solcher Krieg aussehen könnte, lässt sich heute schon erahnen. In der Ukraine sind mehrere Millionen Drohnen im Einsatz. Noch brauchen fast alle einen Piloten, der sie vom Start bis zur Landung steuert. Doch Scharre glaubt, dass sich das bald ändern wird. Denn noch nie in der Geschichte hat sich die Art, wie Kriege geführt werden, so schnell verändert wie jetzt. Früher dauerte es Jahrzehnte oder Jahrhunderte, bis eine neue Waffe erfunden, gebaut und auf dem Schlachtfeld eingesetzt wurde. Heute kann eine Software einer Drohne innerhalb weniger Wochen neue Fähigkeiten geben, die kurz zuvor noch undenkbar schienen.Drohnen simulieren während einer Nato-Übung einen Schwarmangriff. Pabrade, Litauen, 1. Juni 2026.Scharre vermutet, bald einmal werden Schwärme von Drohnen miteinander kommunizieren, Aufgaben untereinander aufteilen und gemeinsam auf das reagieren können, was um sie herum geschieht. Aus vielen einzelnen Maschinen wird so eine Art gemeinsam denkende Armee.Scharre vergleicht den Menschen in solchen Kriegen mit einem Fussballtrainer am Spielfeldrand. Dieser schickt seine Spieler aufs Feld und gibt ihnen eine Taktik mit. Aber wenn das Spiel läuft, kann er nicht mehr eingreifen.In Scharres Vorstellung spielen irgendwann hundert Spieler mit fünfzig Bällen gleichzeitig – und dies in einem atemberaubenden Tempo. Kein Trainer würde da noch den Überblick behalten. So könnte es auch auf dem Schlachtfeld aussehen.Selbst wenn ein Mensch die Kontrolle behalten könnte: Sie wäre eine Illusion. Denn was nützt die letzte Entscheidungskompetenz, wenn keine Zeit bleibt, eine Entscheidung zu treffen? Wenn die KI ein Ziel vorschlägt und der Mensch nur Sekunden hat, um zu überprüfen, ob sie richtig liegt? Im Zweifel wird er sich wohl auf die Maschine verlassen.Was passieren kann, wenn der Mensch die Kontrolle verliert, zeigen die Finanzmärkte. Dort kaufen und verkaufen Computer längst Aktien in Millisekunden. Kein Mensch kann in diesem Tempo jeden Handel überprüfen und, wenn nötig, eingreifen. Und so kommt es vor, dass sich die Programme gegenseitig hochschaukeln und die Börsen abstürzen lassen. Das nennt man «Flash Crash».Scharre sagt: «Könnte auf dem Schlachtfeld nicht etwas Ähnliches passieren? Ein ‹Flash War›? Ein Blitzkrieg, der so schnell eskaliert, dass ihn keiner mehr stoppen kann? Ich halte das für eine beängstigende Vorstellung.»In einer Einsatzzentrale werden zum Schutz vor Drohnenangriffen gleichzeitig Radar-, Kamera- und Sensordaten überwacht. Charkiw, Ukraine, 23. Juni 2026.Sven Kruck, der Unternehmer: «Klar können wir Europäer Grenzen ziehen, aber andere tun es eben nicht.»Sven Kruck sieht in der KI vor allem eine Chance. Er ist überzeugt, dass Maschinen im Krieg zuverlässiger sind als Menschen. Sie machen weniger Fehler, werden nicht müde, kennen keinen Stress. Und mithilfe von Software können sie viel mehr Daten verarbeiten. «Mit unbemannten Systemen ist das Gefechtsfeld gläsern geworden», sagt der 43-jährige deutsche Unternehmer. Unter einem Himmel voller Drohnen lässt sich nichts mehr verstecken. Und wer genau weiss, was der Gegner tut, kann auch gezielter angreifen. Alles lauter Vorteile.Sven Kruck war zwölf Jahre bei der Bundeswehr und hat unter anderem als Kommunikationsspezialist in Afghanistan gedient. Heute ist er Co-CEO von Quantum Systems, einem der grössten Drohnenproduzenten der Welt. Die Firma begann 2015 als kleines Startup, das Drohnen für den zivilen Bereich produzierte. Mit dem Krieg in der Ukraine verschob sich der Fokus auf das Militär. Seither wächst die Firma rasant. Ihr Wert liegt derzeit bei über sieben Milliarden Euro.Sven Kruck empfängt in seinem Büro in Gilching, einem Vorort im Westen von München. Er hat kurzes blondes Haar, eine Brille und ein breites Lachen, trägt T-Shirt, Jeans und weisse Turnschuhe. Alle duzen ihn hier am Hauptsitz. Die DNA des Milliardenunternehmens ist die eines Startups geblieben.Immer weniger Leute seien bereit, ihr Leben in einem Krieg zu opfern. Und westliche Regierungen könnten es sich nicht mehr leisten, Soldaten an der Front zu verlieren. «Mit dem Einsatz von Robotern und Drohnen reduzieren wir den Personalbedarf und schützen dadurch Menschenleben», ist Kruck überzeugt.Das dachten andere vor ihm allerdings auch – und irrten sich. So wie Richard Gatling, der zu Beginn des Amerikanischen Bürgerkriegs 1861 eine Kanone mit automatisiertem Schussvorgang entwickelte, den Vorläufer des Maschinengewehrs. Wenn ein einziger Mann mit einem Maschinengewehr gleich viel Kampfeinsatz leisten könne wie einst hundert Männer, dachte Gatling, würde es keine grossen Armeen mehr brauchen. Das Gegenteil geschah. Als das Maschinengewehr ausgereift war, liess sich im Ersten Weltkrieg nicht nur sehr viel mehr schiessen. Es kamen auch sehr viel mehr Menschen ums Leben.Wie Gatling damals nicht ahnen konnte, dass der Krieg mit dem Maschinengewehr noch tödlicher würde, kann Kruck heute nicht wissen, was die von ihm produzierten unbemannten Drohnen in der Zukunft für Schäden anrichten werden.Kriege werden mit Drohnen billiger und einfacher. Werden sie damit künftig nicht auch häufiger? Könnten Drohnenschwärme nicht mehr Menschen töten als konventionelle Waffen?Keiner kennt die Antwort auf diese Fragen. Was aber klar ist: Firmen wie Quantum Systems haben die Rüstungsindustrie in wenigen Jahren auf den Kopf gestellt. «Bei uns geht alles schnell, unglaublich schnell», sagt Sven Kruck. Seine Firma habe nichts gemein mit den traditionellen Unternehmen der Branche.Innerhalb von wenigen Monaten werden in Gilching neue Produkte entwickelt. Jede Woche werden neue Grossaufträge, Kooperationen oder Übernahmen bekanntgegeben. «Wir haben Disruption gebracht», sagt der CEO und grinst. Für einen kurzen Moment lehnt er sich zurück in seinem Stuhl und lässt die Worte wirken.Solche Pausen gibt es im Gespräch kaum, Sven Kruck redet im Stakkato. Er hat nicht viel Zeit und will doch ganz genau erklären, wie besonders seine Firma ist. Immer wieder schweift er ab und fragt dann plötzlich: «Was war noch mal die Frage?»Bei Quantum Systems geht es um Wachstum, neue Ideen und die ständige Suche nach Marktlücken. Dazu braucht es Mut und sehr viel Selbstvertrauen. Kruck hat beides.Quantum Systems hat 2000 Mitarbeiterinnen und Mitarbeiter, mit jedem Tag werden es mehr. Viele Angestellte sind erst wenige Tage oder Wochen dabei. Die wenigsten haben einen militärischen Hintergrund.Es sei einfach, neue Leute zu finden, sagt Sven Kruck. Der russische Angriff habe das Image der Verteidigungsbranche verändert. «Wir werden nicht mehr mit Glücksspiel und Drogenhandel gleichgesetzt. Es herrscht ein richtiger Hype».Kruck sagt, der Begriff Drohne greife zu kurz, er spreche lieber von unbemannten Systemen. Denn in Gilching werden nicht nur Drohnen entwickelt, sondern auch Software und KI-Programme. Zudem arbeiten die Entwickler seit kurzem auch an autonomen Landfahrzeugen.Das grosse Geschäft bleiben vorerst aber die Drohnen, und das erfolgreichste Modell heisst Vector AI. In seinem Bauch stecken zwei Chips: Einen braucht er zum Navigieren, den anderen zur Datenauswertung. Die Drohne fliegt autonom und nimmt Bilder auf. Dann analysiert sie diese mithilfe von KI und leitet die Informationen an ein Softwaresystem weiter.Ein ukrainischer Soldat und Sprengstoffspezialist bereitet in der Nähe von Tschasiw Jar eine Vampire-Drohne vor, die Bomben über russischen Stellungen abwerfen wird.Dieser Vorreiter im Reich der Drohnen versteht, wer er ist, wo er ist, was sein Auftrag ist, was er gesehen hat und was er dem Piloten oder anderen Systemen mitteilen muss. All dies ohne jegliche Kommunikation. Nur ganz wenige Drohnen können das bis jetzt.Seinen ersten Kriegseinsatz hatte der Vector AI in der Ukraine. Dort wurden in den vergangenen Jahren viele neue Systeme getestet und optimiert. Quantum Systems entwickelt eine neue Drohne innerhalb von sechs Monaten. Stunden nach ihrem ersten Einsatz bekommen die Ingenieure erstes Feedback von ukrainischen Soldaten an der Front. Innert Tagen beheben sie Fehler und passen die Produktion entsprechend an.Der Vector AI kam vor drei Jahren auf den Markt, die aktuelle Version ist bereits die 24. Zum Vergleich: Der deutsche Leopard-2-Kampfpanzer wird seit 1978 in Serie gebaut und bleibt bis heute der erfolgreichste Europas. In den vergangenen fünfzig Jahren wurde er nur neunmal angepasst.Die Vector-AI-Drohnen werden in Gilching von Hand zusammengesetzt. Die Maschinenproduktion lohnt sich nicht, weil die Modelle ständig angepasst und verbessert werden. Noch in diesem Jahr werden zwei neue Fabriken eröffnet. Die Produktion wird damit auf hundert Stück pro Woche verdoppelt.Je nach Wunsch der Kunden werden die Flugkörper mit Kameras, Infrarotlinsen oder Akustiknasen ausgestattet. Letztere ermöglichen es ihnen, auf Geräusche wie Schüsse zu reagieren und dann Bilder vom Ort des Geschehens zu liefern.Alle Drohnen, die Quantum Systems produziert, dienen noch ausschliesslich der Aufklärung und Datensammlung. Sie geben aber Informationen an Kampfdrohnen weiter und können Ziele nach einem Angriff beobachten. Die Grenzen zwischen Verteidigung und Angriff verschwimmen.Quantum Systems entwickelt, produziert und testet seine Drohnen in Gilching. Danach werden sie mit Antenne, Ladestation, Tracker und einem Laptop mit der gewünschten Software in grosse Rucksäcke verpackt. Der Pilot kann die Drohne an der Front auspacken und sofort einsetzen.Den Preis von Vector AI will man bei Quantum Systems nicht nennen. Angaben von europäischen Regierungen, die die Drohne angeschafft haben, lassen aber darauf schliessen, dass sie etwas weniger als 300 000 Euro kostet. Sie fliegt mit aufladbarer Batterie, und wenn sie nicht abgeschossen wird, ist ihre Lebensdauer fast unbegrenzt. «Ergibt es da noch Sinn, 30 Millionen Euro in einen Leopard-Panzer zu investieren oder 100 Millionen in einen Eurofighter», fragt Sven Kruck.Demnächst bringt Quantum Systems die Software «Mosaic» auf den Markt, die verschiedene Systeme in der Luft, an Land und im Wasser miteinander verbinden kann. Bis zu hundert Drohnen und Roboter können so gleichzeitig gesteuert werden. Die riesigen Datenmengen, die zusammenkommen, werden mit KI analysiert. Damit werden aus einzelnen Maschinen und ihren Piloten erstmals koordinierte Teams. Das bedeutet einen Quantensprung für die Kriegsführung. Bis heute ist noch keine solche Software auf dem Markt.«Wir stehen erst ganz am Anfang. Die Möglichkeiten sind unbegrenzt», sagt Sven Kruck. «Die Zukunft ist unbemannt.» Doch welche Rolle wird der Mensch in dieser Zukunft noch spielen?Theoretisch wird es ihn nicht mehr brauchen. Drohnen könnten schon heute ohne menschlichen Einfluss angreifen und töten, wenn man sie entsprechend programmieren würde, sagt der Unternehmer. Doch das wolle niemand, schon gar nicht im Militär, wo Hierarchien und Verantwortlichkeiten klar geregelt seien. Die Angst vor einem Kontrollverlust hält Sven Kruck für übertrieben.2025 hat Quantum Systems den Umsatz fast verdreifacht auf 300 Millionen Euro. Doch dem CEO geht es nicht nur ums Geschäft. Er hat eine Mission: den Kampf für die Souveränität und die Werte Europas. «Europa kann stolz sein auf sein Projekt, aber es muss auch für seine Überzeugungen einstehen», sagt er.Der Deutsche ist überzeugt: Wenn unbemannte Systeme die Zukunft des Krieges sind, muss Europa im Wettbewerb mit den USA, mit China oder Russland mithalten können. Was Innovation und Investitionen angeht, aber auch, was die Gesetze betrifft. «Klar könnten wir schon heute Grenzen ziehen, aber andere tun es eben nicht. Und die Frage ist dann: Was bedeutet es für mich, wenn mein Gegner keine Grenzen kennt?»Schon vor zehn Jahren formulierte der damalige stellvertretende amerikanische Verteidigungsminister Bob Work das Dilemma so: «Was tun wir, wenn unsere Gegner auf Terminatoren setzen und sich herausstellt, dass diese schneller entscheiden können – selbst wenn ihre Entscheidungen schlecht sind?»Beim Militär hat Kruck gelernt: Verteidigung funktioniert nicht ohne Angriffsbereitschaft. Manchmal muss man aus dem Schützengraben herausschauen und schiessen, wenn man sich verteidigen will. Europa hat in den vergangenen Jahrzehnten gelernt, sich zu decken. Aber die Zeiten haben sich geändert.«Wir müssen dafür kämpfen, die Nummer eins zu sein», sagt Sven Kruck. «Wir brauchen eine Mondlandung.»Ein Lichtblitz am Himmel markiert den Moment, in dem eine Drohne von einem Flugabwehrgeschütz getroffen wird. Region Odessa, Ukraine, 23. März 2026.Bonnie Docherty, die Juristin: «Maschinen verstehen den Wert des menschlichen Lebens nicht.»Wenn Bonnie Docherty das Argument hört, dass man der KI keine Grenzen setzen solle, weil das Militär und die Industrie schon wüssten, was sie täten, wird sie wütend. Dann bekommt man eine Ahnung davon, wie ungleich dieser Kampf ist: Auf der einen Seite Militärs, Tech-Konzerne und Milliarden. Auf der anderen eine Juristin, die darauf beharrt, dass nicht alles erlaubt sein darf, nur weil es technisch möglich ist.Im Videogespräch sagt sie: «Die militärische Technologie entwickelt sich rasant in Richtung vollständiger Autonomie. Das dürfen wir nicht zulassen.»Bonnie Docherty trägt eine schmale Brille, die rötlich blonden Haare hat sie im Nacken zusammengebunden. Sie spricht nüchtern und wirkt streng. Docherty will die Regeln nicht nur erklären, sondern mitgestalten: An der Harvard Law School lehrt sie Recht. Bei Human Rights Watch kämpft sie dafür, es zu verändern, um die Welt besser zu machen.Die Juristin wünscht sich ein Abkommen, das KI-Systeme verbietet, die gegen das humanitäre Völkerrecht verstossen. Darunter fallen alle Waffen, die selbständig die Entscheidung treffen, Menschen zu töten. Das sei moralisch «eine rote Linie», sagt sie. «Maschinen verstehen den Wert des menschlichen Lebens nicht.»Aber es geht der Menschenrechtsexpertin Docherty nicht nur um Moral. Es geht ihr auch um die Verantwortlichkeit. Also darum, wen man vor Gericht stellt, wenn eine Maschine den falschen Menschen tötet, einen unschuldigen Zivilisten zum Beispiel. Eine Maschine kann man nicht bestrafen. Aber ist dann der Soldat schuld, der sie eingeschaltet hat? Oder der Kommandant, der ihren Einsatz befohlen hat? Die Programmiererin, die sie entwickelt hat?Je selbständiger die Waffe handelt, desto schwieriger wird es, die Verantwortung einem einzelnen Menschen zuzuschreiben. Docherty spricht von einer «Verantwortungslücke».Bei der KI kommt noch etwas dazu: Manchmal weiss niemand, warum die Maschine entscheidet, wie sie es tut. Man sieht, welche Informationen man ihr gibt und was am Ende herauskommt. Was dazwischen passiert, bleibt im Dunkeln. Im Militär kann das bedeuten: Die KI schlägt einen Menschen als Ziel vor, und niemand kann erklären, warum gerade ihn.Vielleicht liegt es an einem Vorurteil, das die KI gelernt hat. Auch davor warnt Docherty, vor dem sogenannten Bias. «Die KI kann Vorurteile in Bezug auf das Geschlecht oder die Hautfarbe verstärken», sagt sie. Bei einer Waffe kann das beeinflussen, wen sie für eine Bedrohung hält. Oder wessen Leben sie höher wertet.Das alles klingt nach Theorie. Doch Docherty hat oft genug gesehen, was passiert, wenn aus abstrakten Gefahren echte Opfer werden.Seit 25 Jahren beschäftigt sie sich mit Abrüstung und ist dafür immer wieder in Kriegsgebiete gereist. Im Irak, in Afghanistan, Libanon und Georgien untersuchte sie, welche schweren Verletzungen Streubomben verursachen. «Deshalb mache ich weiter. Ich habe gesehen, wie schrecklich die Folgen von gewissen Waffen sein können.»Autonome Waffen hält die Juristin für die grösste Gefahr. Sie beschäftigt sich seit 2012 mit ihnen und erkannte schon damals, dass die Technologie die Kriegsführung revolutionieren wird. Es ist eine Revolution, die Docherty nicht will. Aber wenn sie schon stattfindet, dann versucht sie wenigstens, ihre Folgen zu dämpfen.Ein Soldat sammelt seine Drohne nach einem Einsatz ein. Nähe von Pokrowsk, Ukraine, 12. August 2024.Der Mensch hat schon immer versucht, Waffen zu verbieten, die ihm unheimlich waren oder als besonders grausam galten. Vor knapp tausend Jahren verbot der Papst die Armbrust. Nach den Schrecken des Ersten Weltkriegs wurde Giftgas geächtet. Später folgten Verbote von Antipersonenminen und Streumunition.Ob ein Verbot gelang, hing nie nur davon ab, wie gefährlich eine Waffe war. Entscheidend war auch, wie sehr die Generäle glaubten, sie zu brauchen. Und von der KI versprechen sich Armeen auf der ganzen Welt gerade besonders viel.Zwar betonen Militärs, sie wollten den Menschen «im Loop halten». Aber Bonnie Docherty glaubt, dass die Versuchung irgendwann zu gross wird, ihn aus der Entscheidung herauszunehmen. Nämlich dann, wenn der Mensch im Krieg zum Bremsklotz wird und die eigene Armee dadurch einen Nachteil hat.Aber wäre es wirklich so schlimm, dem Menschen die Entscheidungshoheit zu entziehen? Auch Soldaten irren sich. Sie können Angst haben, aus Wut oder Rache handeln und Kriegsverbrechen begehen.Umfragen unter amerikanischen Soldaten im Irak zeigten, wie brüchig die menschliche Moral im Krieg sein kann: Mehr als ein Drittel der Befragten hielt Folter unter Umständen für erlaubt, nicht einmal die Hälfte hätte Kameraden gemeldet, die unschuldige Zivilisten töteten.Wäre es nicht denkbar, dass Maschinen irgendwann besser kämpfen als der Mensch? Humaner vielleicht sogar? Wenn man sie nur richtig programmiert?Bonnie Docherty sagt: «Maschinen handeln nicht aus Wut. Aber sie handeln auch nicht aus Mitgefühl.» Und gerade Mitgefühl habe Soldaten immer wieder davon abgehalten, zu töten.In ihren Vorlesungen erzählt Docherty den Studentinnen und Studenten vom Kalten Krieg und von der Geschichte der Atomwaffen. Sie ist dabei auf viele Parallelen gestossen: Schon damals stritten Wissenschafter, Militärs und Ethiker über ähnliche Fragen wie heute: Kann man eine solche Technologie überhaupt unter Kontrolle halten? Wird sie nicht zwangsläufig eingesetzt, wenn sie erst einmal existiert?Die Geschichte der Atomwaffen gibt Bonnie Docherty auch Hoffnung. Zwar liessen sich die atomaren Sprengköpfe nicht mehr aus der Welt schaffen. Aber niemand setzte sie nach dem Zweiten Weltkrieg nochmals ein. Und die Staatengemeinschaft begann, ihre Zahl und ihre Verbreitung zu begrenzen.In der Welt von heute scheinen sich die mächtigsten Staaten allerdings nicht mehr einschränken zu wollen. Der amerikanische Verteidigungsminister Pete Hegseth gab Anfang dieses Jahres die Richtung vor: Die USA sollten sich «vom Hinterland bis zur Front zu einer KI-zentrierten Streitmacht entwickeln», schrieb er in einem Memo. Nicht nur seine Regierung will beim militärischen Einsatz von künstlicher Intelligenz möglichst wenige Einschränkungen sehen.«Das ist frustrierend», sagt Bonnie Docherty. Vielleicht, so fürchtet sie, brauche es erst viele Opfer, bevor die Welt die Gefahr ernst nehme.Drohnenbatterien werden geladen. In der Nähe von Pokrowsk, 12. August 2024.Robert in den Bosch, der Diplomat: «Ich versuche, alle gleich unzufrieden zu machen.»Robert in den Bosch will nicht warten, bis etwas Schlimmes passiert. Er setzt alles daran, dass sich die Staaten über den Einsatz von autonomen Waffen einigen – oder zumindest die Voraussetzungen dafür schaffen.Der 65-Jährige ist ständiger Vertreter der Niederlande bei der Abrüstungskonferenz in Genf und leitet eine Expertengruppe zu autonomen Waffen. Am 31. August treffen sich die 128 beteiligten Staaten zu ihrer letzten Sitzung in Genf. Dort wird über nichts Geringeres als die künftige Sicherheit der Welt debattiert.In den Boschs Mission scheint fast unmöglich: Ausgerechnet in einer Zeit, in der alle Staaten aufrüsten, ist er Botschafter für Waffenkontrolle, Abrüstung und Nonproliferation. Und nun soll er auch noch Regeln für eine Technologie finden, die sich schneller entwickelt, als Diplomaten über sie verhandeln können. Im Militärjargon könnte man sagen: Er muss mit einem hundertjährigen Gewehr auf ein «moving target» zielen, ein bewegliches Ziel.Vor vierzig Jahren beschäftigte sich Robert in den Bosch als Student mit der Haager Friedenskonferenz von 1899. Damals ging es um Regeln für die Kriege dieser Zeit. Heute, am Ende seiner Karriere, muss er klären, wie diese alten Normen mit einer völlig neuartigen Technologie zu vereinbaren sind.Seit über zehn Jahren wird an Universitäten, Konferenzen und Gipfeltreffen über die Kontrolle von autonomen Waffen diskutiert, ohne Ergebnisse. In den kommenden Tagen will Robert in den Bosch endlich einen Schritt weiterkommen.Im Vorfeld des Treffens erklärt er in einem Video-Call, was er erreichen will. Er nimmt sich viel Zeit, erklärt technische Begriffe bis ins Detail. Als Jurist und als Verhandlungsführer weiss er, jedes Wort zählt. Alles, was er sagt, ist heikel und könnte dazu führen, dass die Gespräche noch schwieriger werden.Die Gespräche finden im Rahmen der «Konvention über das Verbot oder die Beschränkung des Einsatzes bestimmter konventioneller Waffen» statt. Es geht in erster Linie darum, sich auf eine Charakterisierung von tödlichen autonomen Waffensystemen (Laws) zu einigen. Ein Verbot oder ein rechtlich verbindlicher Vertrag zur Regulierung stehen nicht zur Debatte.Das Ziel klingt bescheiden. Doch ohne eine Definition kann man keine Regeln aufstellen. Bei den Verhandlungen über Atomwaffen war allen Beteiligten von Anfang an klar, worüber sie redeten. Bei tödlichen autonomen Waffen ist das nicht der Fall. Wie selbständig muss ein System sein, um dazuzugehören? Muss es selber töten können oder auch nur beim Töten helfen, um als Laws zu gelten?Bei den Gesprächen geht es aber auch darum, festzuhalten, dass Laws dem internationalen Recht unterstehen – und damit auch dem humanitären Völkerrecht. Wenn das gelingt, würden Waffen, die ohne menschliche Einwirkung töten, illegal.Denn im humanitären Völkerrecht gibt es klare Vorschriften über Verantwortlichkeiten. Es braucht immer eine verantwortliche Person. «Wir müssen entscheiden, in welchem Grad der Mensch noch beteiligt sein muss, damit eine Waffe gemäss internationalem Recht eingesetzt werden kann», erklärt in den Bosch.Unter dem derzeitigen Mandat laufen die Gespräche seit 2023. Die Regierungsdelegationen trafen sich seither zweimal im Jahr in Genf, um an einem Kompromiss zu arbeiten. Im September müssen sie einen konkreten Text vorlegen. Bis zu einem bindenden Vertrag über den Einsatz von Laws ist es noch ein weiter Weg.Robert in den Bosch zitiert ein niederländisches Sprichwort: «Bis ein Pflänzchen zum Baum geworden ist, ist derjenige, der es gepflanzt hat, gestorben.» Dasselbe gelte für internationale Abrüstungsverhandlungen, sagt er.Eine Drohne wird am Nachthimmel durch Flugabwehrfeuer getroffen. Region Odessa, Ukraine, 23. März 2026.Doch das Tempo der Politik steht in keinem Verhältnis zur Dringlichkeit des Problems. Gibt es keinen schnelleren Weg, der Gefahr von unkontrollierbaren Killerrobotern zu begegnen? Können sich nicht einfach jene Staaten, die eine Beschränkung von KI im Krieg befürworten, zusammentun und einen Vertrag aushandeln?«Es kommt auf die Ambitionen an», sagt Botschafter in den Bosch. «Wollen wir einen Text mit gleichgesinnten Staaten verabschieden? Oder wollen wir alle signifikanten militärischen Mächte dabeihaben?»In Genf hat sich gezeigt, dass 42 der 128 beteiligten Staaten schon heute bereit wären, ein rechtlich verbindliches Dokument zu verabschieden. Aber es sind wohl auch genau diese Staaten, die weniger geneigt sind, Killerdrohnen einzusetzen. «Das wäre, wie wenn Vegetarier einen Metzger auffordern, kein Fleisch mehr zu verkaufen», sagt der Diplomat. «Es würde nicht funktionieren.»Der Niederländer will so viele Länder wie möglich an seinem Gesprächstisch haben, auch wenn das die Verhandlungen schwieriger macht. Alle, auf die es ankommt, werden kommende Woche in Genf dabei sein.Robert in den Bosch kennt die Anliegen der Regierungsvertreter, mit denen er verhandelt. Er hat sich jahrzehntelang selbst um Verteidigung gekümmert, im Aussenministerium in Den Haag, bei der Nato in Brüssel und bei Einsätzen in den Botschaften in Iran und in der Ukraine. Das hilft ihm bei seiner Arbeit als Vermittler.Wichtig sei, aktuelle Konflikte aus der Diskussion herauszuhalten und die Debatte nicht zu politisieren, sagt der Diplomat. «Alle Leute im Raum sind sich darüber einig. Das allein ist ein Erfolg.»Er und sein Team führen das ganze Jahr über informelle Gespräche, lobbyieren bei Regierungen, hören sich deren Bedenken und Wünsche an und versuchen, die Möglichkeiten für einen Konsens auszuloten. «Ich definiere Konsens als das Fehlen von Meinungsverschiedenheiten», sagt in den Bosch. «Man könnte auch sagen: Ich versuche, alle gleich unzufrieden zu machen, aber nicht so unzufrieden, dass sie aus dem Prozess aussteigen.»Aber was, wenn sich die 128 Staaten im September nicht auf einen Text einigen können?Daran wolle er nicht denken, sagt Robert in den Bosch. Als Diplomat müsse er Optimist sein. Es gebe immer ein Dutzend Gründe, warum man bei Verhandlungen scheitern könne. Er versuche, sich auf das zu konzentrieren, was ihm zum Durchbruch verhelfen könne. Im konkreten Fall: dass alle Parteien ein Interesse daran hätten, den Einsatz dieser neuartigen Waffen so zu regeln, dass militärisch faire Bedingungen herrschten.Robert in den Bosch versteht die Ungeduld gegenüber dem langwierigen Prozess, den er leitet. Er wird aber weitermachen. Er will nicht, dass Roboter und Drohnen ohne menschliche Einwirkung töten können. Auch wenn man in Genf nur langsam vorwärtskomme, eine Alternative gebe es momentan nicht: «We are the only show in town.»Paul Scharre, Sven Kruck, Bonnie Docherty und Robert in den Bosch sind sich in vielem uneinig. Darin, was Maschinen im Krieg dürfen; darin, ob sie den Krieg sicherer oder gefährlicher machen; und darin, wie dringend ihnen Grenzen gesetzt werden müssen. Nur etwas bestreitet keiner von ihnen: Man kann diese Entwicklung für Fortschritt halten oder für Wahnsinn. Verschwinden wird sie nicht mehr.Eine Drohne ragt aus dem Schwarzen Meer. Odessa, Ukraine, 27. März 2026.Passend zum Artikel