Platform Burgerrechten en FNV waarschuwen Rotterdamse raad over algoritmenbeleid
Het plan van gemeente Rotterdam om voorspellende algoritmen in te zetten op haar inwoners, is onverantwoord en leidt tot vooringenomenheid in de behandeling van burgers. Dat schrijven het Platform Burgerrechten en FNV aan de gemeenteraad in reactie op de zogeheten ‘governance structuur’ die het college wil daarvoor wil opzetten.
In reactie op het rapport “Gekleurde Technologie” dat de Rotterdamse Rekenkamer eerder dit jaar presenteerde, heeft het Rotterdamse gemeentebestuur een plan gemaakt om de inzet van algoritmen door de gemeente te beoordelen. Het Platform Burgerrechten en FNV hebben in een brief aan de gemeenteraad afgeraden dit plan goed te keuren. Het plan laat namelijk ruimte over voor typen algoritmen waarvoor zowel wetenschappelijk als juridisch niet kan worden ingestaan.
Het gaat hierbij om zogeheten ‘hoog risico algoritmen’, die worden gebruikt om bijvoorbeeld burgers te selecteren die een verhoogde kans zouden hebben op het plegen van overtredingen en fraude. Volgens FNV en het Platform is deze manier van werken onrechtmatig, waarbij de partijen ook verwijzen naar het commentaar dat de Europese privacytoezichthouders leverden op de nieuwe AI-richtlijn van de Europese Unie, waarop ook het plan van gemeente Rotterdam is gebaseerd.
“Het is in de ogen van FNV en het Platform onrechtmatig om een burger op een risicolijst te plaatsen omdat diegene statistisch gezien een ‘bedenkelijk profiel’ heeft. Meer fundamenteel valt de vraag te stellen of het proactief indelen van onverdachte burgers in risicoclassificaties überhaupt als een overheidstaak kan worden beschouwd. Een burger heeft het recht om op zijn individuele handelen te worden beoordeeld en niet te worden gereduceerd tot kenmerken die hij om wat voor reden dan ook gemeen heeft met een statistisch gegenereerd risicoprofiel”, zo schrijven de partijen aan de Rotterdamse gemeenteraad.
De organisaties wijzen er tevens op dat “vooralsnog niet is gebleken dat AI een adequaat middel zou zijn om de betrouwbaarheid van burgers te bepalen dan wel hun gedraging en/of anderszins social outcomes te voorspellen. Toch lijken algoritmes die burgers voor allerhande beleidsdoelen bestempelen als ‘risicovol’ binnen de voorgestelde beleidsstructuur doorgang te kunnen vinden.”
Deze algoritmen wil de gemeente blijven inzetten door hier omheen een zogeheten ‘governance structuur’ te organiseren van deskundigen die zich hierover moeten buigen. Zolang echter nog niet is komen vast te staan dat hoog risico algoritmen op een wetenschappelijk en juridisch verantwoorde manier kunnen worden ingezet, zou de gemeente ervan moeten afzien.
Lees hier de brief die het Platform en FNV aan de Rotterdamse gemeenteraad stuurden.
