Steun ons en help Nederland vooruit

donderdag 11 november 2021

Ethische commissie voor data en technologie

Groningen krijgt een ethische commissie voor data en technologie, hiervoor diende D66 een motie in. Deze commissie met bewoners en experts gaat de gemeente van advies voorzien, zodat we er samen voor kunnen zorgen  dat het gebruik van nieuwe technologieën en data op een verantwoorde manier plaatsvindt.

De toeslagenaffaire laat zien dat we er niet zomaar vanuit mogen gaan dat nieuwe technologieën en dataverwerking automatisch voor oplossingen zorgen. Integendeel, bij verkeerd gebruik kunnen er zeer nadelige discriminerende en stigmatiserende gevolgen optreden. Zoals gebeurde bij het programma Systeem Risico Indicatie (SyRI), waardoor mensen onterecht als fraudeur werden bestempeld. 

Dit voorbeeld laat zien dat we zeer kritisch moeten zijn op de manier waarop dit soort zaken worden ingezet. De mogelijkheden om meer data te krijgen nemen met nieuwe technologieën alleen maar toe. Dit gaat niet alleen over de omgang met persoonsgegevens die nu al in het bezit zijn van de overheid, maar ook allerlei gegevens over wat er gebeurt in de openbare ruimte kunnen bijvoorbeeld wifi-sensoren en nieuwe typen camera’s worden geanalyseerd. Aangezien sommige van deze mogelijkheden zeer nuttig kunnen worden ingezet, moeten we er voor zorgen dat de manier waarop dit gebeurt stevig ingekaderd wordt in het beleid en hierop moet uitvoerige controle mogelijk zijn.

Het is belangrijk voor het vertrouwen in de overheid dat burgers (en politieke vertegenwoordigers) inzicht in en invloed hebben op de manier waarop de overheid zich verhoudt tot nieuwe technologische middelen en datavergaring. Door de ethische commissie moet de gemeente steeds aan externe betrokkenen uitleggen hoe ze dit doet. De volgende stap is wat D66 betreft een algoritmeregister, waarin de gemeente online uitlegt hoe ze met dataverwerking omgaat en welke gegevens ze waarvoor gebruikt.

 

Zie hieronder de motie:

 

Motie ‘Ethische commissie voor data en technologie’

De raad van de gemeente Groningen, in vergadering bijeen op woensdag 17 november 2021, ter bespreking van de begroting voor 2022,

constaterende dat,

  • de gemeente steeds meer mogelijkheden krijgt om nieuwe technologische middelen in te zetten, zoals bodycams, drones en allerlei andere soorten cameratoezicht, wifi-sensoren, stereodetectoren, gezichtsherkenningstechnologie, alsook het analyseren van grote hoeveelheden data, waarbij ook complexe algoritmes ingezet kunnen worden die tevens een rol kunnen spelen bij de besluitvorming
  • er gemeenten zijn die een ethische commissie voor data en technologie hebben gecreëerd als klankbord en kennnisplatform om de gemeente bij de inzet van deze middelen van advies te voorzien, met daarin experts, zoals in Enschede, en bewoners, zoals in Hilversum
  • het college n.a.v. schriftelijke vragen vorig jaar over data en algoritmes niet afwijzend stond tegenover een mogelijke ethische commissie voor data en technologie
  • er in de begroting voor 2022 niets over een mogelijke ethische commissie voor data en technologie is opgenomen.

 

Overwegende dat,

  • er met technologische middelen en data op een mogelijk ondoorzichtige manier besluitvorming tot stand kan komen, en er op een ingrijpende manier gebruik gemaakt kan worden van bijvoorbeeld nudgen en crowd control in de openbare ruimte, maar dat dit soort middelen ook heel nuttig kunnen zijn
  • er al gemeenten door de rechter op de vingers zijn getikt, uiteraard pas achteraf, voor de onterechte inzet van dataverzameling en verwerking, wat onvoldoende transparant was, en wat in sommige gevallen leidde tot onbedoelde discriminerende en/of stigmatiserende effecten
  • de openbare ruimte in hoog tempo digitaal in kaart wordt gebracht, bijvoorbeeld door particuliere sensoren
  • het belangrijk is voor het vertrouwen in de overheid dat burgers (en politieke vertegenwoordigers) inzicht in en invloed hebben op de manier waarop de overheid zich verhoudt tot nieuwe technologische middelen en datavergaring, zowel wat betreft haar eigen handelen als dat van particuliere partijen

 

Roept het college op om,

  • een voorstel te doen voor de totstandkoming van een stevig gepositioneerde ethische commissie voor data en technologie, in lijn met het beleidskader ‘data ethiek’, met daarin bijvoorbeeld experts en bewoners, die de inzet van technologische middelen bespreekt en de gemeente van advies voorziet,
  • dit voorstel in het eerste kwartaal van 2022 aan de raad voor te leggen,

 

en gaat over tot de orde van de dag.

 

Ido Venhuizen (D66), Nick Nieuwenhuijsen (GroenLinks), Terence van Zoelen (Partij voor de Dieren), Gerben Brandsema (ChristenUnie) en Steven Bosch (Student&Stad)