Door: Joost de Graaf
De techniek die wordt ingezet door overheidsorganisaties is niet altijd even inzichtelijk. Om hier verandering in te brengen werd het Amsterdam Algoritemeregister opgezet, een overzicht van de algoritmes die worden gebruikt bij gemeentelijke dienstverlening. De betaversie staat momenteel online en geeft een mooi beeld van hoe digitale transparantie kan worden uitgelegd. We spraken met Lydia Prinsen en Anne-Maartje Douqué, werkzaam bij de gemeente Amsterdam, over het leerproces en de ambities van het algoritmeregister.
Overheidsorganisaties hebben steeds meer mogelijkheden voor het verzamelen en opslaan van gegevens. Dit biedt enorme kansen voor het verbeteren van de dienstverlening, maar brengt ook risico’s met zich mee. De grootste gevaren van datagedreven beslissingen ontstaan wanneer het voor de betrokken partijen niet volledig duidelijk is welke keuzes er worden gemaakt en op basis van welke data dit gebeurt. Met het Algoritmeregister doet de gemeente Amsterdam een proactieve stap richting het inzichtelijk maken van deze ontwikkelingen.
Wat was de aanleiding van het opstarten van het algoritmeregister?
Prinsen: Er zijn verschillende redenen geweest. Een van de eerste aanleidingen was het indienden van de motie over een meldplicht ingrijpende algoritmes, die in 2019 door de tweede kamer werd aangenomen. Rond dezelfde tijd speelde natuurlijk ook de toeslagenaffaire en de SyRi-zaak. Bij de gemeente Amsterdam ontstond de behoefte om meer verantwoording af te leggen en transparant te zijn over de algoritmen die we gebruiken. Want zoiets mag niet nog een keer gebeuren.
Douqué: Amsterdam heeft ook een Agenda Digitale Stad. Een AI agenda maakt daar ook onderdeel van uit. Innoveren moeten we op een verantwoorde manier doen en het is cruciaal om de risico’s goed te beheersen. Tegelijkertijd kwamen er ook steeds meer geluiden uit de samenleving die nog meer aanleiding gaven om hiermee aan de slag te gaan. Ik denk dat het ook een beetje uit de organisatie zelf is gekomen. Het voelen van de verantwoordelijkheid in een digitaliseringsslag is essentieel, zeker als overheidsorganisatie.
Het algoritmeregister is nog in ontwikkeling, welke zaken willen jullie nog toevoegen op korte termijn?
Douqué: Op dit moment wordt er geprioriteerd op burgers en bedrijven en de impact die het op hen heeft. Alles wat impact heeft moet uiteindelijk in het register. Uiteraard kijken we natuurlijk ook naar de bruikbaarheid van informatie.
We zijn nu druk bezig met het toevoegen van algoritmes die in de infrastructuur gebruikt gaan worden en vooral betrekking hebben op de openbare ruimte en vervoer, bijvoorbeeld met als doel de reistijd te meten. Een ander voorbeeld hiervan is het algoritme dat gebruikt word voor de milieuzone, automatic number plate recognition. Deze staat eigenlijk ook al deels omschreven in het overzicht parkeercontrole in het register. Zo zijn er nog een aantal andere algoritmes die we nu aan het beschrijven zijn. We hopen deze zo snel mogelijk toe te kunnen voegen.
Is er veel feedback op het register?
Douqué: Er komen zeker reacties. Er is ook een feedbackmogelijkheid op de pagina. Daar kan je invullen of je bepaalde zaken mist of aangeven als er nog vragen zijn. Daar wordt wel gebruik van gemaakt. Ik weet ook dat journalisten naar het register gaan om meer helderheid te krijgen in hoe de algoritmen die de gemeente inzet werken.
Prinsen: Je merkt dat die belangstelling ook bij andere overheidsorganisaties toeneemt. Veel van hen zijn nu zelf bezig met het organiseren van een eigen register. In 2020 is er ook een consortium opgericht met gemeentelijke organisaties en andere partners genaamd Publieke Controle op Algoritmes, die samen werken aan een standaardisering van het register en nadenken over hoe het zou moeten worden vormgegeven in instrumenten. Inmiddels is het consortium ten einde maar is er een kopgroep van overheidsorganisaties opgericht, deze focust zich op het in de praktijk brengen van het register. Organisaties zijn uitgenodigd om aan te sluiten bij deze groep en de maandelijkse informatiebijeenkomsten. We merken dat er nu veel meer aandacht ontstaat voor hoe dat register eruit moet zien en dat er in bredere zin ook veel internationale interesse is voor het werk van Amsterdam.
Kwetsbare groepen, zoals de mensen betrokken in de toeslagenaffaire, zijn dat nou per se de mensen die gebruik gaan maken van het register?
Prinsen: Die zorg is begrijpelijk en het is iets waar wij ook over nadenken. Tegelijkertijd werkt transparantie natuurlijk meerdere kanten op. Het register biedt niet alleen openbaarheid aan de mensen die direct te maken hebben met de algoritmes maar het is juist toegankelijk voor iedereen. Ook journalisten en wetenschappers maken er gebruik van. Wel hebben we geprobeerd het register zo vorm te geven dat iedereen het kan begrijpen. De teksten bevatten een gelaagdheid in de informatie.
Douqué: Er is wel onderzoek gedaan naar wat mensen wel begrijpen en hoe leesbaar de tekst moet zijn, daar wordt ook continu aan gewerkt. Dat onderzoek wees ook uit dat we heel veel gedetailleerde informatie kunnen geven, maar voor de meeste mensen lag daar de voorkeur niet. Een expert zou bij wijze van spreken het liefst de broncode willen weten en als dat mogelijk is geven we die ook. Voor de meeste mensen is het echter vooral prettig als ze kunnen begrijpen wat de digitale instrumenten die door de gemeente worden ingezet doen en wat de gevolgen ervan kunnen zijn en hoe de gemeente daar mee omgaat.
Zijn er ook dingen die heel moeilijk uit te leggen zijn?
Douqué: Ik denk dat het best haalbaar is om complexe algoritmen met visualisaties en andere middelen begrijpelijk te maken. Alleen je hebt natuurlijk wel met verschillende doelgroepen te maken. En dat is nog wel een zoektocht. Wie ben je op welk moment aan het bedienen?
Prinsen: Om maar even terug te komen op het parkeeralgoritme. Daar zit ook een visualisatie en een stroomschemaatje. Dit is een voorbeeld van iets waar we hele positieve reacties op krijgen. Om de vraag te beantwoorden, alles is uit te leggen. Dat vraagt soms gewoon om een extra communicatieslag.
Werken naar een standaard
Het Algoritmeregister is een stevige stap in de richting van transparantie over de inzet van digitale middelen door publieke organisaties. Naast dat het meer ruimte biedt voor openheid dwingt het de organisatie ook om continu te reflecteren op de risico’s die bepaalde rekenkundige modellen met zich meebrengen. Niet alles is immers in data te vatten en daarnaast zijn fouten snel gemaakt. Het meest interessante aan het register is misschien ook wel te vinden in het feit dat het niet alleen ingezet hoeft te worden door publieke organen, maar dat in principe elke organisatie en ieder bedrijf dat werkt met gegevens die risico’s met zich meebrengen, een register zou kunnen opstellen.
Bij het gebruik van een dienst willen veel consumenten immers ook weten welke toepassingen er worden gehanteerd om de dienst te kunnen verlenen. Producten in de supermarkt komen immers ook nagenoeg allemaal met een beschrijving van de inhoud. Als je er over nadenkt is het ook best bijzonder dat het uitleggen van algoritmen nog niet de standaard is. Want als het niet uit te leggen valt, zou het eigenlijk ook niet gebruikt moeten worden.
Meer weten over hoe de gemeente Amsterdam omgaat met de wisselwerking tussen digitale ontwikkelingen en digitale rechten in de publieke ruimte? Kijk When Billboards Stare Back, een panelsessie georganiseerd door de Cities Coalition for Digital Rights, tijdens de PublicSpaces Conferentie 2022. De sessie is in het Engels.
Anne-Maartje Douqué is concern adviseur gegevensbescherming bij de gemeente Amsterdam en zij werkt aan bescherming van persoonsgegevens van Amsterdammers, waaronder bewoners maar ook bezoekers van de stad. Zij bekijkt vraagstukken daarbij vanuit het brede perspectief van digitale (mensen-)rechten. Zo werkt zij aan instrumenten voor het verantwoord gebruik van algoritmen, waaronder het Algoritmeregister. Daarbij staat het bieden van begrijpelijke informatie in duidelijke taal over de verwerking van persoonsgegevens en de technologie centraal, waaronder gemaakte keuzes en verantwoording daarover. Hierbij wordt steeds opnieuw gekeken wat de informatiebehoefte van bewoners, bezoekers en instellingen van de stad is en hoe informatie verbeterd kan worden.
Lydia-José Prinsen is programmamanager bij het Chief Technology Office van de gemeente Amsterdam. Dagelijks werkt Lydia-José aan de R&D en de innovatie-functie van de organisatie. Vanuit haar positie is zij doortastend en effectief in het verbinden van mensen op nationaal en Europees niveau wanneer het gaat om innoveren. Een van de projecten waar zij aan werkt zijn de instrumenten voor het verantwoord gebruik van algoritmen, waaronder het Algoritmeregister en de aanvullende inkoopvoorwaarden voor Artificial Intelligence. Twee manieren to build trust for citizens and business.