“Stop met risicoprofilering zolang rechtmatigheid niet is aangetoond”

De FNV en Platform Burgerrechten doen via een brief een dringende oproep aan de Rotterdamse gemeenteraad om te stoppen met de algoritmische risicoprofilering van haar burgers. De algoritmen die gebruikt worden zijn mogelijk discriminerend. De gemeente werd vorige week door de Rekenkamer op de vingers getikt over het gebruik van fraude-algoritmen die ze inzet op bijstandsgerechtigden.

De Rotterdamse Rekenkamer constateerde in het donderdag gepubliceerde onderzoeksrapport “Gekleurde technologie” dat gemeente Rotterdam haar beleid omtrent de inzet van algoritmes niet op orde heeft. Zo kan er geen transparantie worden geboden over de wijze waarop algoritmes burgers beoordelen en bestaat het risico dat burgers op vooringenomen wijze worden behandeld door de gemeente. In een case study naar risicoselectie bij het uitnodigen van bijstandsgerechtigden voor een herbeoordeling, werd door de Rekenkamer ontdekt dat laaggeletterde burgers door het algoritme automatisch hoger op de risicolijst voor fraude werden geplaatst.

Volgens FNV en het Platform Burgerrechten toont het college onvoldoende urgentie in haar reactie. Ze schrijven: “Er zijn, zo valt in het rapport te lezen, “instrumenten in ontwikkeling” die de inzet van algoritmes in de toekomst wel goed moeten regelen. Tot die tijd moeten Rotterdamse bijstandsgerechtigden er blijkbaar genoegen mee nemen dat ze op discriminerende gronden worden geselecteerd voor een herbeoordeling.” Maureen van der Pligt, bestuurder FNV Uitkeringsgerechtigden: “Zolang er op deze manier mensen mogelijk onterecht in een fout rijtje komen te staan moet je er acuut mee stoppen. Het moet afgelopen zijn met het voortdurende wantrouwen richting uitkeringsgerechtigden.”

Wantrouwen richting overheid

Volgens de FNV en het Platform Burgerrechten wekt dit systeem van fraudeopsporing wantrouwen richting de overheid in de hand. Van der Pligt: “Als je niet duidelijk kunt maken aan je inwoners met een bijstandsuitkering op welke gronden je mensen eruit pikt als mogelijk fraudeur werk je wantrouwen richting de overheid in de hand en dat is funest voor een rechtsstaat.”

SyRI
Vorig jaar was er, mede naar aanleiding van acties in de Rotterdamse wijken Hillesluis en Bloemhof,  veel aandacht voor het opsporingssysteem SyRI. Dit fraudesysteem Systeem Risico Indicatie werd door de rechtbank geschrapt wegens gebrek aan transparantie en het mogelijk discrimineren van mensen met weinig geld of een andere culturele achtergrond. De Rotterdamse burgemeester Aboutaleb had toen al eerder de stekker uit SyRI in Rotterdam getrokken.

Zo ga je niet met burgers om
Aboutaleb deed toen een duidelijke uitspraak: ‘Willen we dat de overheid zo omgaat met burgers?’ Ronald Huissen van het Platform Burgerrechten: ‘Nee, zo wil je niet dat de overheid met burgers omgaat. Steeds vaker blijkt dat de overheid in de afgelopen jaren fors heeft ingezet op het risico profileren met data over burgers, zonder vooraf goed na te denken over welke negatieve gevolgen dit voor hen kan hebben.’ Het Platform en de FNV willen dat de gemeente direct stopt  met de inzet van deze instrumenten totdat duidelijk is of ze op een rechtmatige manier kunnen worden ingezet. Ze schrijven: “De gemeente Rotterdam was de eerste partij die besloot de stekker uit SyRI te trekken. Met de conclusies van dit rapport is er opnieuw een gelegenheid om het voortouw te nemen en te laten zien dat Rotterdam de grondrechten van haar meest kwetsbare burgers wel respecteert.”

Menselijker beleid

Daarnaast wordt de gemeente opgeroepen om in te zetten op een menselijker beleid in de bijstand, waarbij burgers niet geautomatiseerd op risicolijsten worden geplaatst, maar juist worden geholpen bij het naleven van de vaak complexe regels. “Wanneer er onder de motorkap van deze systemen wordt gekeken, blijkt keer op keer dat risicoprofilering in de sociale zekerheid geen fraude opspoort, maar vooral fouten. Het feit dat de gemeente Rotterdam laaggeletterde bijstandsgerechtigden in een risico-selectie opneemt in plaats van hen proactief bij te staan bij het voldoen aan hun administratieve verplichtingen, is daarvan een tekenend voorbeeld.”

Download hier de brief die FNV en Platform Burgerrechten aan de Rotterdamse gemeenteraad stuurden.

afbeelding: voorkaft onderzoeksrapport Rotterdamse Rekenkamer