Voor het Europees Parlement is het inmiddels een no-go. Het in de openbare ruimte toepassen van gezichtsherkenning met AI technieken mag niet meer, zo staat vastgesteld in de Artificial Intelligence (AI) Act. Toch zijn verschillende EU lidstaten het hiermee oneens. Zij vinden dat massa surveillance van belang is voor de waarborging van de veiligheid. Een zorgelijke trend, en daarom ondertekenden wij met 179 andere maatschappelijke organisaties en deskundigen een statement voor een stop op gezichtsherkenning.

Het ondertekende statement, dat door de organisaties European Digital Rights (EDRi) en Big Brother Watch is geïnitieerd, komt voort uit een groot aantal problemen die de techniek met zich meebrengt. Zo verduidelijkt EDRi in het statement dat dinsdag gepubliceerd werd:

‘We have a range of concerns about facial recognition surveillance, ranging from serious concerns about its incompatibility with human rights, to the potential for discriminatory impact, the lack of safeguards, the lack of an evidence base, an unproven case of necessity or proportionality, the lack of a sufficient legal basis, the lack of legislative oversight, and the lack of a democratic mandate.’

Wat gaat er mis bij gezichtsherkenning?

In juni stemde het Europees Parlement in met het AI Act-wetsvoorstel waarmee ook gezichtsherkenning wordt verboden. Enkele Europese lidstaten zijn hier echter op tegen, waaronder het Nederlands demissionaire kabinet, en zetten in op uitzonderingsgevallen in de laatste onderhandelingen van de AI wet. Vanuit het oogpunt van rechtshandhaving zou gezichtsherkenning mogelijk moeten zijn, zoals in gevallen van vermiste kinderen.

Het bespioneren van haar bevolking en het vergaren van zoveel gevoelige data is niet waar een democratische overheid voor bedoeld is. Het toeslagenschandaal gaf aan hoe onzorgvuldig er met een grote hoeveelheden data kan worden omgegaan. Veiligheid is niet gegarandeerd, en veel ondemocratische en schadelijke gevolgen liggen binnen handbereik, waarbij bepaalde gemarginaliseerde groepen zoals vluchtelingen of mensen van kleur harder getroffen worden dan anderen.

De wetteloze surveillancemaatschappij is inmiddels in Nederland haar intrede aan het maken, maar demissionaire minister Yesilgöz van Justitie en Veiligheid dringt onvermoeid aan op nog meer grondrechtoverschrijdende gezichtsherkenningsregels, waaronder verplichte software voor het scannen van chatberichten om kinderporno op te sporen. Het statement tegen gezichtsherkenning is met deze zorgwekkende ontwikkelingen daarom een noodzakelijke stap richting meer aandacht voor deze kwestie.

Wil je nog meer hierover weten? Tijdens de PublicSpaces conferentie in juni werd in de sessie ‘De mens centraal bij overheidsinformatie’ besproken hoe overheidsinformatie, en dus data, altijd ten dienste van de samenleving kan en moet staan. Je kunt de sessie hier terugkijken.

Wat is gezichtsherkenning?

Gezichtsherkenning gaat om real time (dus live) publieke camera-opnames waarmee biometrische informatie wordt vastgelegd van personen. Dit is informatie die specifiek is voor een individu, zoals het gezicht (bij gezichtsherkenning), maar bijvoorbeeld ook iemands looppatroon. Dit is terug te herleiden naar een bepaald persoon door gebruik van een database van gezichten en het inzetten van AI software. Bij een match is de identiteit van de persoon vastgesteld. Deze AI software is echter niet neutraal. Al langer is bekend dat AI gebruikmaakt van data vol met biases en daarom de rechten van burgers schendt. Ook werken databanken niet transparant en wordt er meer opgeslagen dan nodig.