Geen openheid over doorlichten burgers

Minister Dekker (VVD) voor Rechtsbescherming gaat geen openheid geven over het doorlichten van burgers in de sociale zekerheid. Dat zei hij op 30 mei in debat met de Tweede Kamer. De Kamer is bezorgd dat de gebruikte algoritmen bepaalde groepen eerder als mogelijk fraudeur bestempelen.

Zowel GroenLinks als D66 vroegen om meer transparantie over de algoritmen die in het SyRI-systeem worden gebruikt. Met het SyRI-systeem worden groepen burgers doorgelicht over het gebruik van uitkeringen en toeslagen. Algoritmen selecteren automatisch mensen uit die mogelijk fraude plegen waarna opsporingsambtenaren die mensen nader onder de loep nemen. Hiervoor wordt een enorm scala aan gegevens over mensen samengevoegd.

Vooroordelen

Volgens GroenLinks en D66 zijn de algoritmen en de criteria die daarbij gebruikt worden niet objectief. De algoritmen zijn immers door mensen bedacht en geprogrammeerd. De (onbewuste) vooroordelen en vooringenomenheid van die mensen komen ook in de algoritmen terecht wat tot discriminatie leidt. Bepaalde groepen zullen door het algoritme eerder worden uitgeselecteerd dan anderen.

De partijen vinden dat er daarom meer transparantie over de gebruikte algoritmen en gehanteerde criteria moet komen. Ook de VVD en de SP maken zich zorgen over de automatische oordelen van algoritmen. Naast SyRI werden ook zorgen geuit over het e-court systeem en de algoritmen die Facebook hanteert.

Geen openheid

Minister Dekker vindt het in principe goed dat er meer openheid komt als mensen op basis van groepskenmerken automatisch worden beoordeeld. Maar dat is volgens hem niet in alle gevallen 'handig' omdat dat teveel inzicht in de opsporingsmethodiek zou geven. "Er zijn situaties waarbij het juist niet handig is om transparant over algoritmen te zijn. Dat mag ook volgens de AVG. Wat ons betreft is dat bij SyRI het geval."

Volgens artikel 22 van de nieuwe Algemene Verordening Gegevensbescherming is het verboden om automatisch beslissingen met grote impact over mensen te nemen. Daarop zijn uitzonderingen mogelijk zolang de rechten van mensen op een andere manier goed zijn gewaarborgd. De minister vindt dat dat bij SyRI het geval is. "Als mensen het er niet mee eens zijn, staat de gang naar de rechter altijd open."

De moeilijkheid hierbij is wel dat mensen in veel gevallen niet geïnformeerd worden dat ze door het SyRI-systeem als mogelijke fraudeur bestempeld zijn.

Expertgroep

Tijdens het debat werd met regelmaat naar New York verwezen, waar sinds kort een expertgroep is ingesteld die de eerlijkheid van algoritmen gaat beoordelen. Daarbij wordt onder andere gekeken naar de volgende punten.

• Hoe kunnen mensen weten dat zij onderwerp zijn van een geautomatiseerde beoordeling en zouden ze daarover actief geïnformeerd moeten worden?
• Komen bepaalde groepen, zoals minderheden, immigranten of ouderen, disproportioneel vaak naar boven drijven uit de automatische beoordeling.
• Hoe is het beoordelingsproces vormgegeven en in de gemeentelijke organisatie ingebed.
• Hoe worden de ervaringen met het systeem vastgelegd en gebruikt ter verbetering van het systeem?

De minister voelt er weinig voor om een dergelijke expertgroep voor het SyRI-systeem in te stellen. Wat hem betreft is een gang naar de rechter voldoende waarborg voor een eerlijk en betrouwbaar proces.

Motie

D66 vindt dit onvoldoende waarborg en kondigde een motie aan om toch meer transparantie over het algoritme af te dwingen. "Algoritmen moeten wat ons betreft technisch en democratisch controleerbaar zijn. Er moet meer transparantie komen over de gebruikte algoritme-regels en criteria". Naar verwachting wordt de motie in de komende weken in de Tweede Kamer ingediend.

Ook burgerrechtenorganisaties, waaronder het Nederlands Juristencomité voor de Mensenrechten (NJCM) en Stichting Privacy First, maken zich zorgen over het geheime algoritme dat "voorspelt of mensen een risico vormen om één van de vele wetten die het systeem beslaat te overtreden". De organisaties hebben daarom de staat onlangs voor het SyRI-systeem voor de rechter gedaagd.