Algoritme belastingdienst leidde tot raciale profilering: Amnesty International

Algoritme belastingdienst leidde tot raciale profilering: Amnesty International

Het ongereguleerde gebruik van algoritmen door de Nederlandse belastingdienst om risicoprofielen op te stellen van potentiële uitkeringsfraudeurs leidde tot zowel discriminatie als raciale profilering, volgens een vernietigend rapport van Amnesty International.

De Engelstalig rapport, Xenophobic Machines, dat dinsdag wordt gepresenteerd tijdens een zijvergadering van de Algemene Vergadering van de VN in New York, zei dat het ‘Nederlandse kinderbijslagschandaal een dringende wake-up call is om racistische algoritmen te verbieden’.

‘Duizenden levens zijn geruïneerd door een schandelijk proces met een xenofoob algoritme gebaseerd op raciale profilering’, zegt Merel Koning, senior adviseur technologie en mensenrechten bij Amnesty International. ‘De Nederlandse autoriteiten lopen het risico deze catastrofale fouten te herhalen, aangezien de bescherming van de mensenrechten nog steeds ontbreekt bij het gebruik van algoritmische systemen.’

De Amnesty-onderzoekers ontdekten dat ‘Nederlands staatsburgerschap: ja/nee’ als categorie werd gebruikt in het risicoclassificatiemodel voor kinderopvangtoeslag en dit betekende volgens de organisatie dat niet-Nederlandse nationaliteiten hogere risicoscores kregen en neerkwam op racial profiling.

‘Het gebruik van nationaliteit in het risicoclassificatiemodel onthult de aannames van de ontwerper, ontwikkelaar en/of gebruiker van het systeem dat mensen van bepaalde nationaliteiten meer kans hebben om fraude of misdaad te plegen’, aldus het rapport.

‘Het is ook een indicatie van de perceptie van de belastingdienst dat er een verband bestaat tussen ras/etniciteit en misdaad, evenals een aanvaarding van de praktijk om het gedrag van sommige individuen te generaliseren naar alle anderen die geacht worden hetzelfde ras of etniciteit.’

Gevolg

De onderzoekers wijzen erop dat de Belastingdienst voorafgaand aan het gebruik van het risicoclassificatiemodel de mensenrechtenrisico’s en -effecten niet heeft beoordeeld en geen maatregelen heeft genomen om discriminatie te voorkomen.

‘Het gebrek aan transparantie en verantwoordingsplicht van de belastingdienst dreef de slachtoffers van het kinderopvangtoeslagschandaal in een maalstroom van bureaucratische en ondoorzichtige juridische procedures, zonder dat er effectieve rechtsmiddelen beschikbaar waren voor de ouders en verzorgers die werden gediscrimineerd met het risicoclassificatiemodel,’ zei Amnestie.

Het rapport merkt ook op dat, hoewel de Nederlandse regering racial profiling publiekelijk afkeurt, zij het gebruik van etniciteit en andere risicofactoren voor discriminatie als basis voor verdenking en voor besluitvorming bij wetshandhaving blijft toestaan.

Rechtszaak

Zo oordeelde een Nederlandse lagere rechtbank in september dat de grenspolitie door mag gaan met het selecteren van mensen voor extra identiteitscontroles op basis van hun etniciteit omdat dit geen discriminatie is.

‘Het enkele feit dat etniciteit een rol speelt… is niet per definitie discriminerend en kan dus geen grond zijn voor een algemeen verbod’, aldus de rechter.

De uitspraak bracht onderminister van Justitie Ankie Broekers-Knol ertoe te bevestigen dat de grenspolitie werkt met risicoprofielen op basis van informatie van de veiligheidsdiensten en andere risico-indicatoren. Dit kunnen ras en de reisgenoten zijn, evenals gedrag en reisroutes, zei ze.

ombudsman

Nationale ombudsman Reinier van Zutphen zei in maart de overheid en officiële instanties moeten etnisch profileren veel serieuzer nemen, met het argument dat maar weinig mensen klagen over etnisch geprofileerd zijn omdat ze niet voldoende vertrouwen hebben in de autoriteiten om het op te lossen.

‘We weten dat het in Nederland gebeurt’, zei hij. Dat maakt het des te belangrijker dat overheidsinstanties klachten goed onderzoeken in plaats van te zeggen ‘waarom denkt u dat’.’

De ombudsman onderzocht 159 gevallen waarin mensen zeiden slachtoffer te zijn geweest van etnisch profileren, van wie driekwart geen formele klacht had ingediend.

 

Disclaimer:

Tipmaatregelen.nl is geen eigenaar van de informatie op deze website, wij verstrekken de informatie die al beschikbaar is op internet. Voor eventuele steengroeven wordt Disclaimer verzocht vriendelijk contact met ons op te nemen – tipsmaatregelen@gmail.com Of https://tipsmaatregelen.nl/contact/ Bedankt

Leave a Comment