Terugkijken: “Meer weten is meer weten, of meer macht?”
Op dinsdag 25 januari organiseerden het Nederlands Helsinki Comité en het Platform Burgerrechten een webinar over de inzet van digitale technologie door de overheid en de impact hiervan op het functioneren van de rechtsstaat.Experts op het vlak van technologie en mensenrechten lichtten verschillende voorbeelden uit van overheidsplannen die door de inzet van digitale technologie onze grondrechten uithollen. Het gehele evenement is hieronder terug te kijken.
“Ambtenaren beschrijven in overheidsrapporten onze grondrechten als ‘knelpunten voor de uitvoeringsprakijk’”
Vanaf 9 minuten de keynote speech van Tijmen Wisman, universitair docent Privacy en Gegevensbeschermingrecht aan de VU en voorzitter van het Platform Bescherming Burgerrechten, waarin hij ingaat op de wijze waarop onze persoonsgegevens worden beschermd en hoe juridische waarborgen de macht van de overheid moeten beperken en de burger moeten beschermen. Deze regels staan echter onder grote druk. Ze worden hoe langer hoe meer systematisch opzij geschoven door overheden met een heilig geloof in Big Data oplossingen voor maatschappelijke problemen. Hierdoor komt de machtsrelatie tussen de overheid en burgers scheef te liggen: “De primaire functie van de wet lijkt niet meer om de macht te begrenzen, maar veeleer om deze te faciliteren, te instrumentaliseren en uiteindelijk te legitimeren.” Met de huidige wetgeving die zowel vanuit Den Haag als Brussel op ons afkomt, blijft er langzaam maar zeker niets van onze grondrechten over, stelt Wisman. Hij concludeert dat er nu een fundamenteel debat dient te worden gevoerd over onze rechtsbescherming tegen digitale overheidsmacht, waarbij de centrale vraag dient te zijn: in wat voor samenleving willen wij wonen?
“Sinds het toeslagenschandaal hebben we nog maar weinig fantasie nodig om te bedenken waarom transparantie, controleerbaarheid en rechtsbescherming zo belangrijk zijn.”
Vanaf de 32e minuut de bijdrage van Nadia Benaissa van Bits of Freedom over de Brusselse AI-Verordening. Het Europese pakket aan regelgeving moet nadere regels aanbrengen om burgers te beschermen tegen de gevaren van kunstmatige intelligentie die wordt toegepast door overheden en bedrijven. De bescherming van fundamentele rechten zou volgens de Europese Commissie daarin een speerpunt zijn, maar daar is na meerdere forse wijzigingen weinig meer van over, vertelt Benaissa. “Om maar een voorbeeld te noemen: burgers mogen slechts in enkele gevallen weten dat ze interactie hebben met kunstmatige intelligentie, maar er wordt hen geen mogelijkheid geboden om transparantie, uitlegbaarheid of contoleerbaarheid af te dwingen. Daarmee wordt het vrijwel onmogelijk je in rechte tegen een beslissing te verweren.” Hoewel de uitlegbaarheid en controleerbaarheid van overheidsbeslissingen vanouds een kernaspect is van onze rechtsstaat, zorgt de AI-Verordening ervoor dat dit niet geldt bij de inzet van kunstmatige intelligentie. Benaissa: “Het wetsvoorstel zorgt ervoor dat het rechtsbeschermingsniveau behoorlijk omlaag getrokken wordt. Waarmee een nieuw normaal van kafkaëske ondoorzichtigheid wordt gecreeerd.”
“In plaats van ervoor te zorgen dat Europol stopt met deze dataverwerking, gaan we gewoon de wet aanpassen zodat het wel legaal is.”
Vanaf minuut 39 spreekt Sarah Eskens van de Vrije Universiteit over de Europol Verordening, die de Europese politiedienst ingrijpende nieuwe bevoegdheden geeft om persoonsgegevens uit tal van bronnen te verzamelen. Waar Europol voorheen gericht was op het ondersteunen van opsporingsdiensten van EU-lidstaten, krijgt de dienst in geval van aanname van de nieuwe Europol Verordening zelfstandige bevoegdheden die ze voorheen niet had. Het gaat onder meer om het zelf kunnen ontwikkelen van algoritmen en andere innovaties die moeten helpen bij het opsporen van criminaliteit. Daarnaast mogen met de wijzigingen ook gegevens van onschuldige burgers door Europol worden verwerkt. Deze moeten onder meer gebruikt worden voor massale bestandsvergelijkingen, een andere nieuwe bevoegdheid die Europol volgens de Verordening krijgt. Deze data kan Europol rechtstreeks bij particuliere partijen opvragen, waar dit eerst nog via nationale politiediensten moesten worden aangeleverd. Daarmee worden de bevoegdheden van de dienst enorm uitgebreid in vergelijking met de oorspronkelijke taken van Europol. “De Europese Commissie probeert te legaliseren wat Europol al een tijdlang onrechtmatig doet.” Eskens verwijst daarbij naar de Europese privacytoezichthouder die onlangs besliste dat Europol een grote hoeveelheid persoonsgegevens moest verwijderen omdat ze deze op een onrechtmatige manier had verwerkt. “In plaats van ervoor te zorgen dat Europol stopt met deze dataverwerking, gaan we gewoon de wet aanpassen zodat het wel legaal is.”
“We zijn in ontwikkeling van Big Brother naar ‘little sister’”
Vanaf de 52e minuut de bijdrage van Quirine Eijkman, ondervoorzitter van het College voor de Rechten van de Mens over de Wet Gegevensverwerking door Samenwerkingsverbanden (WGS). Het omstreden wetsvoorstel, door tegenstanders al tot ‘Super SyRI’ gedoopt, maakt het mogelijk om voor uiteenlopende doelen samenwerkingsverbanden op te richten. Daarin kunnen overheidspartijen en bedrijven op grote schaal persoonsgegevens uitwisselen en koppelen voor allerhande analyses, risicovoorspellingen en surveillancepraktijken. Het College werd gevraagd om in te gaan op de discriminatierisico’s onder het voorstel. Grootschalige dataverwerkingen bij overheden hebben in de Toeslagenaffaire geleid tot grootschalige discriminatie waartegen de gedupeerde burgers zich niet inhoudelijk konden verweren. “We zijn in ontwikkeling van Big Brother naar ‘little sister’”, stelt Eijkman. Waar bij Big Brother direct duidelijk is dat de sterke arm van de wet aan het werk is, kom je daar bij little sister pas achter als je met de gevolgen wordt geconfronteerd.
Het college beschrijft in haar advies op de WGS knelpunten op het gebied van discriminatie. “Er staan meerdere nieuwe dingen in de wet die het risico op discriminatie moeten tegengaan. Zo zijn er rechtmatigheidsadviescommissies ingesteld die toezicht moeten houden op de dataverwerkingen door samenwerkingsverbanden.” Door de manier waarop de wet moet worden uitgevoerd, waarbij grote hoeveelheden gegevens tussen publieke en private partijen worden uitgewisseld en verder kunnen worden verwerkt, vraagt het college zich echter af of burgers in de praktijk echt iets hebben aan hun rechtsbescherming. “Mensen weten vaak niet eens waarom ze extra onderzocht worden, en op basis waarvan hun gegevens worden gedeeld. Stel, jij bent verward maar bent geen last voor je omgeving, je wordt besproken op lokaal niveau en er worden gegevens over je gedeeld; jij moet je daar in de praktijk tegen kunnen verweren.” Het college waarschuwt in haar advies over de WGS voor situaties waarin niet transparant is wat er over burgers wordt uitgewisseld, en wat er met die gegevens wordt gedaan. “Zo krijg je kafkaëske toestanden zoals in de toeslagenaffaire, waarbij mensen niet weten waarom ze als fraudeur waren bestempeld, terwijl dit juridisch op papier klopte. Dan kom je in een situatie waarin je rechtsbescherming niet veel meer waard is.”
foto: Holland Media Park
