Statement Platform Burgerrechten over stopzetting van profilering van burgers Nissewaard
Door de risicoprofilering van burgers te stoppen wegens technische redenen, ontkomt Nissewaard voorlopig aan een fundamentele juridische toets van haar beleid. We zullen blijven zoeken naar een rechtsingang om risicoprofilering van onverdachte burgers alsnog te kunnen aanvechten.
Na ruim een jaar alle kritiek van FNV en Platform Burgerrechten te hebben weggewuifd, stopt gemeente Nissewaard eindelijk met het inhuren van Totta Data Lab om bijstandsgerechtigden geautomatiseerd op risicolijsten te plaatsen. De aanleiding: een onderzoek waarin TNO vaststelt dat de door Nissewaard ingehuurde algoritmen onbetrouwbaar zijn.
Dit onderzoek was er niet gekomen als niet aanhoudend de tamtam was geroerd in de media en in de gemeenteraad. Dat deze praktijk nu is stopgezet, mag dan ook worden beschouwd als het resultaat van de inspanningen van het Platform Burgerrechten en FNV, alsmede de aanhoudende kritische aandacht van de Volkspartij Nissewaard, die als enige gemeenteraadsfractie bleef vasthouden aan dit dossier en geen genoegen nam met het rookgordijn dat het gemeentebestuur optrok rondom de samenwerking met Totta Data Lab.
Nissewaardse bijstandsgerechtigden en hun gezinnen wordt voorlopig bespaard dat zij onderwerp worden van black box risicoprofilering met gegevens die zij in vertrouwen hebben gedeeld. De stopzetting neemt de bezwaren die Platform Burgerrechten en FNV hadden tegen dit beleid, echter niet weg.
‘Moet je als overheid zo met burgers omgaan?’
De profilering door Totta Data Lab is nu door het college stopgezet omdat de fraude-algoritmes volgens TNO geen betrouwbare resultaten opleveren. Volgens Platform Burgerrechten en FNV blijft een belangrijkere vraag daarmee onbeantwoord: Moet je als overheid zo met je burgers omgaan? Impliciet stelt het college dat deze werkwijze gewoon had kunnen worden voortgezet als de werkwijze technisch aan een aantal eisen zouden voldoen.
Het TNO-onderzoek heeft zich enkel gericht op de technische aspecten van de algoritmen die Nissewaard inhuurde – en niet op de juridische houdbaarheid van het genereren van fraudeprofielen en risicolijsten over onverdachte burgers. Dit is in de visie van het Platform en FNV een praktijk die niet valt te verenigen met de beginselen van de rechtsstaat en staat geheel los van de vraag hoe nauwkeurig of betrouwbaar de algoritmes al dan niet zouden zijn.
Dit was onze insteek in de bodemprocedure tegen SyRI en zou ook een hoofdrol hebben gespeeld in de rechtszaak die we tegen gemeente Nissewaard voorbereidden. Juridisch zijn we, kortom, nog niet klaar met dit onderwerp. We zullen de mogelijkheden onderzoeken om profilering van onverdachte burgers door gemeenten alsnog aan te vechten en daarbij ook andere overheden die zich inlaten met deze werkwijzen nauwlettend volgen.
Wordt vervolgd.
