nl nl en nl id en nl en nl nl nl nl pt nl en nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl nl
Gezichten herkennen in digitale beelden werkt steeds beter – met name door inzet van artificial intelligence. Overheid, bedrijven en burgers kunnen deze nieuwe technologie op allerlei manieren gebruiken. De Universiteit van Tilburg deed onderzoek naar de stand van zaken, naar de privacyrisico’s en naar de mogelijkheden om privacy-inbreuken te voorkomen. Ik was lid van de begeleidingscommissie van dit onderzoek.
Op basis van een groot aantal informatiebronnen (literatuur, documenten, interviews, bezoeken aan bedrijven) concluderen de onderzoekers dat gezichtsherkenning in Nederland zich nog in de experimentele fase bevindt. Bedrijven zijn nog op zoek naar rendabele toepassingen. Toegangscontrole is eigenlijk het enige concrete voorbeeld waar de technologie al wordt gebruikt. Bedrijven zijn niet erg happig om hun nek uit te steken uit angst voor de privacyrisico’s die gezichtsherkenning met zich meebrengt. Veel ondernemers zeggen dat het onduidelijk is wat mag volgens de wet en wat niet. Inzet van gezichtsherkenning door de overheid is – helaas – niet onderzocht.
De onderzoekers van Tilt beschrijven zeven risico’s van automatische gezichtsherkenning: dit zijn de eerste vier.
Eenieders gezicht kan worden gebruikt voor het trainen van de AI-modellen zonder dat men daar toestemming voor heeft gegeven. Dat kan uiteraard gebeuren met alle foto’s en video’s die mensen zelf openbaar online publiceren, maar ook beeldmateriaal dat is verkregen in de publieke ruimte.
Gezichtsherkenning is vooral handig om handelingen uit te voeren en technologie aan het werk te zetten. Maar daarmee ontbreekt een actieve handeling: wil ik dit wel echt?
Gezichtsherkenning werkt steeds beter, maar de technologie heeft nog altijd moeite met specifieke groepen: vrouwen, kinderen en mensen met een donkere huid. Die worden vaker onjuist herkend of juist niet.
Als deze technologie breed verspreid raakt en door bedrijven en burgers makkelijk kan worden ingezet, zal het steeds moeilijker worden om je anoniem door de publieke ruimte te begeven.
Wat kan de wetgever doen?
De onderzoekers geven de overheid een aantal opties om te overwegen: van een totaalverbod tot een gedoogbeleid. De technologie is nog niet op grote schaal in gebruik in Nederland, maar er worden wereldwijd toepassingen ontwikkeld die ook hier kunnen worden gebruikt. Dat levert reële risico’s voor de privacy op. Daarom vinden de onderzoekers dat de Nederlandse samenleving zich de fundamentele vraag dient te stellen “Wat vinden wij wenselijk als het gaat om gezichtsherkenningstechnologie in onze democratische rechtsstaat?” Het rapport helpt bij het vinden van een antwoord op die vraag.
Op het eerste gezicht – gezichtsherkenning en privacyrisicosDownload
PS. Ere wie ere toekomt: dit rapport is er dankzij de initiatiefnota Onderlinge privacy van VVD-kamerlid Sven Koopmans. Daarin stelt hij dat het tijd is voor regulering van technologie zoals gezichtsherkenning omdat we niet vrij en veilig kunnen leven als jouw gedrag zonder je medeweten en zonder je instemming kan worden opgenomen en gepubliceerd. Je kunt zijn nota hier lezen.
Vorig berichtVorige Camerabeleid ProRail opstellen
Volgend berichtVolgende Bodycams voor boa’s
Bodycams breder bekeken (2022)
Landelijk onderzoek naar gemeentelijk cameratoezicht (2022)
Taking off the blinders: A general framework to understand how bodycams work. Hoofdstuk in het boek: Police on Camera (2020)
Evaluatie bodycams gemeente Rotterdam (2019)
Evaluatie bodycams Landelijke Eenheid (2019)
Focus: Evaluatie pilot bodycams Politie Eenheid Amsterdam (2019)
Praktijkzakboek Wet politiegegevens voor boa’s (2019)
De mogelijke meerwaarde van bodycams voor politiewerk (2017)
Cameratoezicht Gemeentewet 151c (2015)
Ik ben sinds 1996 adviseur en onderzoeker voor overheid en bedrijfsleven op het terrein van veiligheid en criminaliteit. Mijn specialisme is cameratoezicht.