Het debat over militaire kunstmatige intelligentie gaat meestal over ethiek. Hoeveel autonomie mag een machine krijgen? Wanneer moet een mens betrokken blijven bij een beslissing over leven en dood? Dat zijn terechte vragen. Maar er is een fundamentele kwestie die veel minder aandacht krijgt: wat als die systemen zélf doelwit worden?
AI speelt al een groeiende rol in moderne oorlogsvoering. In Oekraïne selecteren autonome drones zelfstandig doelwitten, verwerken AI-systemen inlichtingen sneller dan welke analist ook en helpt AI commandanten bij het coördineren van complexe operaties. Ook het Nederlandse ministerie van Defensie denkt inmiddels na over de inzet van dergelijke systemen.
Nederland speelt bovendien een voortrekkersrol in het internationale debat. Zo bracht Nederland begin 2023 tientallen landen samen in het Haagse World Forum om te werken aan normen voor verantwoord gebruik van militaire AI. Wie mag bijvoorbeeld de trekker overhalen, wanneer moet een mens betrokken zijn en hoe moet je die menselijke betrokkenheid inrichten? Die vragen stonden toen al centraal. Dat militair gebruik van AI zijn voor- en nadelen kent, is duidelijk.
Wat in discussies hierover tot nu toe onderbelicht is gebleven, is zogenoemde adversarial AI: het gericht manipuleren van AI-systemen zodat ze verkeerde conclusies trekken, uitvallen of gevoelige informatie lekken. Zo hebben onderzoekers bijvoorbeeld aangetoond dat kleine stukjes tape op een stopbord een zelfrijdende auto kunnen laten denken dat het een maximumsnelheidsbord is.
