Privacytoezichthouders pleiten voor verbod op gezichtsherkenning

Gezichtsherkenning en andere real time biometrie in de openbare ruimte moet verboden worden. Dat stelt de European Data Protection Board (EDPB) in een reactie op een wetsvoorstel van de Europese Commissie over kunstmatige intelligentie (AI).

De EDPB wil daarnaast een verbod op AI-systemen die mensen indelen op basis van bijvoorbeeld etniciteit, geslacht of seksuele voorkeur.

De EDPB bestaat uit de privacytoezichthouders van alle EU-landen. Samen met de Europese toezichthouder European Data Protection Supervisor (EDPS) hebben zij gereageerd op het wetsvoorstel.

De EDPB en de EDPS vinden dat de risico’s van gezichtsherkenning te groot zijn om deze techniek toe te staan in de openbare ruimte. Dit geldt ook voor vergelijkbare technieken, zoals stemherkenning en bewegingsherkenning,

De huidige tekst van het wetsvoorstel maakt het mogelijk dat overheden dit soort technieken mogen inzetten om bijvoorbeeld criminaliteit te voorkomen en bestrijden.

Daarnaast pleiten de EDPB en de EDPS voor een verbod op AI-systemen die mensen indelen in groepen op basis van etniciteit, geslacht, seksualiteit of politieke voorkeur.

De EDPB en de EDPS pleiten ook voor een verbod op AI die emoties herkent. Aan emotieherkenning kunnen grote risico’s zitten voor de vrijheid van burgers. Denk aan werkgevers die werknemers een slechte beoordeling geven als zij te vaak ‘boos’ kijken terwijl ze achter hun computer zitten, werknemers die moeten glimlachen om toegang tot de werkplek te krijgen, of politie die uit voorzorg mensen staande houdt die volgens het systeem ‘boos’ of ‘ontevreden’ zijn terwijl zij op straat lopen.

Volgens het voorstel moeten AI-systemen die voor biometrie worden ingezet verplicht geregistreerd worden. En moeten ze in de toekomst gecertificeerd worden, om aan te tonen dat ze de nieuwe wet naleven. Bovendien zijn bedrijven verplicht aan te geven hoe de systemen werken.

De EDPB en de EDPS constateren dat veel regels nog niet duidelijk genoeg zijn. Welke partij moet de wet gaan handhaven en hoe precies? En wat zijn exact de regels wanneer er met systemen data worden doorgegeven naar landen buiten de EU?

Daarnaast moet de wet goed aansluiten op de Algemene verordening gegevensbescherming (AVG). In het huidige voorstel staan andere definities van sommige begrippen dan in de AVG. Daarnaast zijn de procedures die bedrijven moeten doorlopen anders dan in de AVG. Dit zorgt voor verwarring en maakt het erg ingewikkeld voor bedrijven en andere organisaties om aan de wet te voldoen.

Foto Shutterstock