Steun ons en help Nederland vooruit

dinsdag 16 februari 2021

D66: gemeente is ‘goed bezig met data ethiek’

Naar aanleiding van de ‘Proef Digitale Identiteit heeft D66 zorgen geuit over het gebruik van data en algoritmes door de gemeente. Tijdens deze proef wordt onder andere gebruik gemaakt van gezichtsherkenningstechnologie. De fractie stelde daarop vragen aan het college om meer duidelijkheid te krijgen over hoe de gemeente hiermee omgaat. De beantwoording van deze vragen wekt vertrouwen op; de gemeente is zich zeer bewust van de risico’s van onethisch gebruik van algoritmen. Daarbij neemt de gemeente maatregelen om nieuwe technologieën in het algemeen op een goede en integere manier toe te passen. 

D66 wil voorkomen dat er in Groningen, nu of in de toekomst, op een ondoorzichtige manier gebruik wordt gemaakt van complexe algoritmes. Bijvoorbeeld om mogelijk ongewenste discriminatie als gevolg te voorkomen. Daarnaast kan verkeerd gebruik van data leiden tot foutieve beslissingen. De data moet goed beschermd worden zodat de privacygevoelige data niet in verkeerde handen kan vallen. 

Het college geeft aan dat de gemeente zich zeer bewust is van de risico’s van onethisch gebruik van algoritmen. Ook is het college met ons eens dat het belangrijk is om eerst goed na te denken hoe moderne en nieuwe technologieën op een maatschappelijk verantwoorde manier gebruikt kunnen worden. De gemeente kijkt niet alleen kritisch naar algoritmes, maar ook naar datagebruik in de openbare ruimte, zoals de mogelijkheden van gezichtsherkenning, wifi tracking, sensoren en zelfs nudging. 

Daarom neemt de gemeente verregaande maatregelen om de informatievergaring op een veilige en integere manier toe te passen, en is aan de slag gegaan met een beleidskader ‘data ethiek’. Zo werkt de gemeente aan een ‘ethisch innovatie kader’ en werkt ze aan het instellen van een ethische commissie. Deze kan de vraagstukken rondom de nieuwe technologie beoordelen en toetsen. Bij de totstandkoming van dit kader en de toetsing van vraagstukken is een belangrijke rol weggelegd voor een functionaris Gegevensbescherming. De gemeente is tevens bereid om een openbaar register van alle relevante algoritmische toepassingen die gebruikt worden te publiceren.

Waar de gemeente bezig is met het ontwikkelen van data gebaseerde technieken werkt ze samen met de Rijksuniversiteit Groningen. Zoals bij een onderzoek om het fenomeen bijstandsfraude beter te begrijpen, om er voor te zorgen dat er onafhankelijk en kritisch naar deze ontwikkeling gekeken wordt. De technologie wordt daarbij nadrukkelijk niet ingezet met het doel om inwoners te straffen of te sanctioneren. Daarnaast worden gegevens als nationaliteit of etniciteit bewust niet meegenomen in het onderzoek. 

D66 heeft er vertrouwen in dat de gemeente er aan werkt om datagebruik stevig in te kaderen in beleid, waarbij er expliciete en onafhankelijke controles worden ingebouwd. Zodat het gebruik van complexe algoritmes die mogelijkerwijs gebruikt worden voor het nemen van beslissingen die bewoners persoonlijk raken, transparant, eerlijk en controleerbaar zijn.