Wat is er mis met SyRI? De belangrijkste bezwaren in tien minuten
In de video hierboven legt mede-eiser Maxim Februari in tien minuten uit wat er op verschillende niveau’s mis is met het Systeem Risico Indicatie.
SyRI ondermijnt de vertrouwensrelatie tussen Staat en burger
De geheime werking en inzet van SyRI maakt het een onvoorzienbaar systeem, fataal voor de vertrouwensrelatie tussen de Staat en haar burgers en een recept voor een onveilige samenleving. “Als je niet langer wordt beoordeeld op basis van het overtreden van een kenbare norm, maar op basis van geheime risicoprofielen, is de angst voor repercussies aanwezig in ieder contact met de overheid.”
SyRI versterkt bestaande vooroordelen, misverstanden en fouten
Bij het inrichten van SyRI is geen rekening gehouden met de meest voor de hand liggende risico’s die spelen bij het grootschalig samenvoegen en verwerken van persoonsgegevens. Er zijn geen waarborgen of procedures ingebouwd die garanderen dat de analyses die SyRI uitvoert, kloppen en niet alleen maar leiden tot het uitvergroten van fouten, misverstanden en vooroordelen. In het hele proces van een SyRI-onderzoek zijn op geen enkele wijze waarborgen ingebouwd die toezien op de juistheid van data, evenals de gehanteerde risicomodellen en de analyses die eruit rollen. De wijze waarop SyRI werkt zou bespreekbaar, weerlegbaar en aanvechtbaar moeten worden. “Daar zou je het over willen hebben, maar dat kan niet zolang alles geheim en verborgen in de schaduw woekert.”
SyRI is onrechtvaardig
De wijze waarop SyRI werkt, heeft als gevolg dat bestaande vooroordelen enkel worden bevestigd, en versterkt zo de stigma’s die er over groepen, klassen en woongebieden bestaan. Daarmee is het een onrechtvaardig systeem; een persoon die tot een gemarginaliseerde groep behoort, in een slechte wijk woont of simpelweg pech heeft gehad in zijn verhouding met de overheid en handhavingsdiensten, heeft door een veelheid van redenen een grotere kans om door SyRI te worden doorgelicht en als risico te worden aangemerkt.
Met SyRI slaan we een verontrustende richting in
We slaan met SyRI een fundamenteel verkeerde richting in als het gaat om de rechtsbescherming van burgers in tijden van Big Data en kunstmatige intelligentie. De digitale revolutie zal er op korte termijn voor gaan zorgen dat onze complete samenleving, van politiek tot economie en dus ook rechtspraak, ingrijpend zal veranderen. Dit vraagt erom dat we grondig nadenken over hoe burgers in deze nieuwe digitale orde der dingen als individu kunnen worden beschermd tegen de macht van overheden en bedrijven. SyRI is daarin een hele slechte eerste stap: “Dit hele SyRI, in het geniep met geheime modellen naar burgers zitten loeren, is geen begin van een volwassen en 21e eeuws rechtsdenken.”
