Data zijn gewoon mensenwerk
Het Humanistisch Verbond interviewde Maxim Februari naar aanleiding van zijn lezing op de lancering van de SyRI-procedure. In het gesprek gaat Februari verder in op hoe de menselijkheid van technologie wordt miskend, en daarmee ook het risico dat we door middel van digitale technologie de vooroordelen uit de analoge wereld slechts versterken.
“Het gekke is dat mensen bij het woord ‘technologie’ meteen visioenen krijgen van waardenvrije, objectieve methodologie. Maar techniek wordt ontworpen en gemaakt door mensen. Die stoppen hun overtuigingen erin. Zelfs gegevens worden door mensen gemaakt. Vooral gegevens over menselijk gedrag komen uiterst subjectief tot stand. Wat geldt bijvoorbeeld als ‘gedragsincident’ in de klas bij opstellen van rapportages over schoolkinderen? Iemand moet besluiten dat het een ‘gegeven’ is, waard om te worden opgeschreven, als een kind een paracetamol slikt. Iets is pas een gegeven als je besluit dat het een gegeven is. Voor algoritmes geldt dat nog sterker: dat zijn simpelweg menselijke overtuigingen die in formele taal zijn opgeschreven. En dus zitten algoritmes vol politieke, morele, ideologische inhoud.”
Humanistische bescherming tegen nieuwe technologie
Ook werpt Februari als rechtsfilosoof een blik op de toekomst. De impact die big data en kunstmatige intelligentie zullen hebben op de democratische rechtsstaat, vraagt dat we nieuwe manieren moeten vinden om de individuele burger te beschermen.
“Ik denk dat de politiek en het rechtssysteem ingrijpend zullen veranderen. Geld verdwijnt grotendeels, en dus ook het systeem van individueel sparen. De wet zal voor een deel worden vervangen door nudgen. Daarbij zal gedragsverandering door je omgeving in een bepaalde richting gestuurd worden. De politieke keuze zal worden afgezwakt doordat vaker wordt gekeken naar je ‘gebleken preferenties’, dat wil zeggen door gegevens over de voorkeuren die je hebt laten zien via je gedrag. Al deze ontwikkelingen vragen van ons dat we opnieuw bescherming van het kwetsbare individu inbouwen. Humanistische bescherming, zo je wilt.”
Het Humanistisch Verbond gaf eerder aan de SyRI-rechtszaak en campagne van harte te steunen.
Lees het volledige interview op de site van het Humanistisch Verbond.
