Steun ons en help Nederland vooruit

dinsdag 12 januari 2021

Digitale identiteit – hoe strenger de voorwaarden hoe beter

De gemeente Groningen gaat mee doen aan de ‘Proef Digitale Identiteit’ van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties, waarbij er gebruik zal worden gemaakt van gezichtsherkenningstechnologie. D66 wil van het college weten hoe de gemeente Groningen omgaat met data die verzameld en geanalyseerd wordt tijdens deze proefperiode. De data dient ter ondersteuning van de digitale dienstverlening van de gemeente. Raadslid Wieke Paulusma: “Het gebruik van data kan ons veel opleveren maar moet wat ons betreft alleen met de strengst mogelijke voorwaarden en mag nooit groepen binnen de samenleving ten onrechte nadelig behandelen”

Lees de vragen en onderbouwing hier: 2021-01-11_ D66 – Schriftelijke vragen data, algoritmes en de gemeente

Volgens D66 moet het gebruik van privacygevoelige data en de analyse hiervan door complexe algoritmes stevig ingekaderd worden. D66-commissie woordvoerder Ido Venhuizen deed het onderzoek en stelde samen met Paulusma de vragen aan het college op. Venhuizen: ‘We moeten voorkomen dat er privacyschending plaats kan vinden, of erger: foutieve beslissingen of discriminatie als gevolg van een onjuiste gegevensverwerking door de gemeente. Wanneer er complexe algoritmes gebruikt worden voor het nemen van beslissingen die bewoners persoonlijk raken moet dit eerlijk, transparant en controleerbaar zijn.’

Het programma Systeem Risico Indicatie (SyRI), waar vorig jaar nog een rechter zich negatief over uitsprak, laat zien dat dit menens is. In Rotterdam werd dit algoritme gebruikt, waar het een hele reeks privacygevoelige gegevens van mensen met elkaar in verband bracht. Het gevolg was verschillende discriminerende en stigmatiserende effecten voor bewoners van relatief arme wijken waar veel inwoners een migratie-achtergrond hebben. Dit terwijl de bewoners hier zelf aanvankelijk geen idee van hadden. ‘Dat kan echt niet’, zegt Wieke Paulusma hierover. ‘Burgers — en ook wij als volksvertegenwoordigers— moeten inzicht hebben in de manier waarop besluitvorming tot stand komt en discriminatie en stigmatisering voorkomen’

Naast vragen aan de gemeente op welke manier zij gebruik maakt van algoritmes in de besluitvorming denkt D66 zelf onder andere aan het instellen van een ethische commissie om relevante algoritmische toepassingen te toetsen, een openbaar register van deze toepassingen en het meenemen van ethische aspecten in de inkoopvoorwaarden voor leveranciers van software op dit gebied.