Die Schwelle zum vollautomatisierten Krieg auf dem Schlachtfeld scheint fast schon überschritten. Vor dem Hintergrund unbestätigter Berichte über den Einsatz von Drohnen in der Ukraine, die mithilfe Künstlicher Intelligenz selbstständig Ziele auswählen und bekämpfen, wenden sich nun die Vereinten Nationen und das Internationale Komitee vom Roten Kreuz (IKRK) mit einem dringlichen Appell an die Weltgemeinschaft. UN-Generalsekretär António Guterres und IKRK-Präsidentin Mirjana Spoljaric Egger schlagen Alarm: Die Menschheit sei im Begriff, eine „moralische rote Linie zu überschreiten: das autonome Auslöschen menschlichen Lebens durch Maschinen“.
Das Risiko liegt laut dem Weckruf auf der Hand. Das humanitäre Völkerrecht verbiete Angriffe auf Zivilisten und zivile Infrastrukturen. In dynamischen Gefechtslagen sei die Unterscheidung zwischen Kombattanten und Zivilpersonen aber selbst für menschliche Soldaten eine sehr schwierige Aufgabe. Eine Maschine, die Entscheidungen über Leben und Tod trifft, sei nicht in der Lage, Nuancen menschlichen Verhaltens zu deuten.
Unberechenbarkeit des Schlachtfelds
Ein Verwundeter oder ein Soldat, der sich ergeben möchte, steht völkerrechtlich unter besonderem Schutz. Auch können Zivilisten unvorhergesehen in das Operationsgebiet autonomer Waffensysteme geraten. Ein Mensch kann hier in Sekundenbruchteilen seine Urteilskraft walten lassen. Algorithmen agieren dagegen rein datenbasiert. Laurent Gisel, Leiter der Abteilung für Waffen und Gefechtsführung beim IKRK, verweist darauf, dass moderne Kriege von Zerstörung und Chaos geprägt seien. Die Annahme, KI-Systeme könnten in solch einem Umfeld zurückhaltend operieren, widerspreche der Realität.
