vandaag, 18:56Rechters willen meer inzicht in de algoritmes die de overheid gebruikt bij visum- en asielprocedures. Dat blijkt uit recente uitspraken.Zo tikte(opent in nieuw venster) deze week een rechter het ministerie van Buitenlandse Zaken op de vingers. Het ministerie had moeten uitleggen welke rol een algoritme speelde bij de afwijzing van het visum van een Iraanse vrouw. "Anders is dat namelijk niet controleerbaar voor de aanvraagster."Rechtbanken nemen een opvallend actieve rol aan, ziet Jarik ten Cate, onderzoeker aan de Universiteit Utrecht (UU). "Bij een visumzaak in Groningen(opent in nieuw venster) besloot de rechter uit eigen beweging te onderzoeken of de visumaanvraag wel goed was onderbouwd, omdat Buitenlandse Zaken een algoritme had gebruikt. Dat doet een rechter niet zo snel."Toeslagenaffaire voorkomenOok een algoritme van de Immigratie- en Naturalisatiedienst (IND) ligt onder een vergrootglas. Het gaat in dat geval om een soort zoekmachine, die medewerkers helpt om een asielaanvraag met eerdere aanvragen te vergelijken. De IND moest al enkele aanvragen opnieuw beoordelen, mede omdat onduidelijk bleef of het algoritme gebruikt was. De rechter eist(opent in nieuw venster) nu ook meer uitleg over dat systeem.Ondanks de rechterlijke uitspraken zijn het ministerie en de IND niet van plan het gebruik van het algoritme standaard toe te lichten in visum- en asielafwijzingen.Volgens Ten Cate hebben rechters geleerd van het verleden. "Ze willen algoritmes goed toetsen, om zo een mogelijke nieuwe toeslagenaffaire te voorkomen."In de toeslagenaffaire werden ouders met een dubbele nationaliteit vaker aangemerkt als fraudeur door de Belastingdienst. In 2022 erkende het kabinet dat er sprake was van "institutioneel racisme".Honderdduizenden aanvragenOok bij het algoritme dat het ministerie van Buitenlandse Zaken gebruikt om te beoordelen of een visumaanvraag extra moet worden gecontroleerd, speelt nationaliteit een rol. Dat algoritme adviseert bij ongeveer de helft van de 750.000 jaarlijkse aanvragen.Een zakenreis naar Nederland verliep voor deze twee Egyptische broers allesbehalve soepel:Dat algoritme werkt als volgt: het vergelijkt een aanvraag met eerdere, soortgelijke aanvragen. Dat gebeurt op basis van onder meer aanvraagland, reisdoel, leeftijd en vaak ook nationaliteit. Het algoritme bekijkt hoe vaak het bij die eerdere aanvragers misging, bijvoorbeeld hoe vaak ze langer dan toegestaan in Nederland bleven.Daar rolt vervolgens een advies uit: de aanvraag snel behandelen, regulier behandelen of intensief onderzoeken.Volgens het ministerie leidt dit systeem tot een efficiëntere en objectievere beoordeling van visumaanvragen. De interne toezichthouder van het ministerie waarschuwde juist voor het tegenovergestelde: het systeem zou leiden tot stigmatisering.Nationaliteit wordt gebruikt om in te schatten hoe mensen zich gaan gedragen. Dat mag niet, het is gewoon racistisch.In een presentatie aan de minister in 2022 gaf de toenmalige toezichthouder een voorbeeld: een verhoogd risico voor alle Surinaamse mannen tussen de 26 en 40 jaar die voor toerisme een visum aanvragen in Paramaribo. Wie in zo'n profiel valt, "wordt in een hokje gestopt met mensen op wie hij lijkt", concludeerde hij. "Op basis daarvan wordt besloten of je een zwaar of snel onderzoek krijgt."Zijn advies: stop met het systeem. Twee juristen die het ministerie inschakelde, oordeelden: onderscheid op nationaliteit is binnen het visumbeleid toegestaan.'Racistisch'Uit onderzoek van NRC(opent in nieuw venster) bleek in 2024 dat bij onder andere Marokkanen, Tunesiërs en Egyptenaren relatief vaak werd geadviseerd om de aanvragen intensief te onderzoeken. Mensenrechtenorganisatie Amnesty International verwijt het ministerie etnisch te profileren. "Nationaliteit wordt gebruikt om in te schatten hoe mensen zich gaan gedragen", zegt Alexander Laufer. "Dat mag niet. Het is gewoon racistisch."Critici vrezen ook dat in de historische gegevens waarop het algoritme draait al vooroordelen over bepaalde groepen zitten. Het ministerie verwerpt die argumenten: "Nationaliteit is een noodzakelijk en relevant kenmerk waarvoor een wettelijke basis bestaat. Het ministerie heeft onderzoeken laten uitvoeren waaruit blijkt dat het gebruik van het algoritme niet leidt tot vooringenomenheid."Het ministerie benadrukt dat niet het systeem, maar de ambtenaar zélf beslist of iemand een visum krijgt.De rechter in Utrecht vond die argumenten deze week overtuigend in een zaak van een Iraanse vrouw: het algoritme had geen invloed gehad op haar afwijzing, en risico's op vooroordelen deden zich niet voor, concludeerde de rechtbank. De rechtbank in Groningen onderzoekt een vergelijkbare zaak.Stigmatisering?Ten Cate denkt dat de rechtszaken kunnen leiden tot een fundamentelere zaak. "Nu er meer informatie bekend is over dit systeem, kan een rechter de vraag beantwoorden: is het gerechtvaardigd om mensen intensief te onderzoeken, omdat zij lijken op anderen die iets fout hebben gedaan? Of is er dan sprake van stigmatisering, discriminatie en etnische profilering?"Directeur reclassering over vernietigend rapport: 'Onvoldoende kennis algoritmes'donderdag 11 juni, 18:59EU-commissaris: asielprocedures verplaatsen buiten EU kan vanaf vrijdagdonderdag 11 juni, 19:36Nu aanmelden in Ter Apel: voor asielzoekers kan dat jaren schelenwoensdag 10 juni, 20:46IND ziet kansen in asielaanvragen buiten de EUzaterdag 20 juni, 16:29Bushra uit Syrië wacht al jaren op asieloordeel: 'Onwetendheid maakt me zenuwachtig'