Dankzij gezichtsherkennende technologie kunnen bedrijven en overheden steeds makkelijker onze handel en wandel volgen. Niet alleen als we een overtreding begaan, maar ook als we nietsvermoedend naar ons werk gaan, uit lunchen met een collega of een rondje hardlopen door het park. Willen we dat wel?
De meeste mensen begeven zich elke dag wel in de openbare ruimte: op straat, in de auto, in de trein. Maar een gedetailleerde lijst van alle plekken waar we zijn geweest, en met wie, zouden we over het algemeen als een inbreuk op onze privacy beschouwen. Als er gezichtsherkenning wordt toegepast op de beelden van de vele bewakingscamera’s waar het in onze steden van wemelt, dan komt die privacy in gevaar.
Om aan te tonen hoe simpel het is om iemand ongemerkt te volgen, hebben we eerst foto’s verzameld van mensen die rond het New Yorkse Bryant Park werken (grotendeels afkomstig van de site van hun werkgever). Daarmee gewapend hebben we de gezichtsherkenningsapplicatie van Amazon naar de openbare camerabeelden van dat parkje laten kijken. In negen uur beeldmateriaal detecteerde ons systeem zo 2750 gezichten (niet per se van 2750 verschillende mensen, want één persoon kon op verschillende beelden worden gedetecteerd). Daarbij wist de software een aantal mensen te herkennen, onder wie – met een waarschijnlijkheid van 89 procent – Richard Madonna, hoogleraar oogmeetkunde aan SUNY College. Totale kosten: een dollar of zestig.
‘Mijn eerste reactie was: jezuschristus, ongelooflijk,’ zei Madonna, toen we contact opnamen en uitlegden wat we hadden gedaan. ‘Ik schrok ervan hoe makkelijk ik blijkbaar door de software word herkend, want, nou ja… je ziet me alleen van opzij.’ We hadden voor ons experiment foto’s verzameld van openbare websites en we hebben Madonna voor publicatie om toestemming gevraagd.
De afgelopen decennia hebben bedrijven en particulieren miljoenen camera’s opgehangen zoals die in Bryant Park waarvan wij de beelden gebruikten. Zo is er onbedoeld een infrastructuur voor massaal politietoezicht gecreëerd. Vroeger moesten alle beelden door een mens worden bekeken om er iemand op te kunnen herkennen, zodat het onmogelijk was om mensen massaal te volgen. Maar de software voor gezichtsherkenning is zo snel en betrouwbaar geworden dat een vorm van volautomatisch toezicht inmiddels binnen bereik is.
En de wetgever holt achter de feiten aan. Het gebruik van gezichtsherkenning is in de Verenigde Staten nauwelijks aan regelgeving onderworpen. ‘De technologie heeft zich nog sneller ontwikkeld dan ik had gedacht,’ zegt Jennifer Lynch, hoofdjurist bij burgerrechtenorganisatie Electronic Frontier Foundation (EFF). Gezien de snelheid waarmee de technologie zich ontwikkelt, zegt ze nu voorstander te zijn van een totaalverbod op het gebruik van gezichtsherkenning door de overheid.
De camera’s in Bryant Park zijn meer dan tien jaar geleden opgehangen opdat iedereen kan zien of het grasveld al is opengesteld voor recreanten en hoe druk het ’s winters op de ijsbaan is. Volgens de beheerders van het plantsoen zijn ze niet bedoeld als bewakingscamera’s. Maar ons experiment toont aan dat een paar camera’s en software voor gezichtsherkenning volstaan om je dagpatroon in kaart te kunnen brengen: wanneer je elke dag op kantoor komt, met wie je koffie gaat drinken, hoe vroeg je weer naar huis gaat. Op het moment dat Richard Madonna werd herkend, ging hij lunchen met een sollicitant. Zo zie je dat zelfs de middagpauzes van brave burgers gevoelige informatie kunnen opleveren.
De politie en andere overheidsinstanties beschikken bovendien over enorme cameranetwerken. Combineer dat met een uitgebreid fotobestand, zoals een register van rijbewijshouders, en je kunt je burgers in de hele regio op de voet volgen. Niets wijst erop dat dit in de Verenigde Staten op grootschalige wijze gebeurt. Maar aan de technologie hoeft het niet te liggen. Vorig jaar beweerden bedrijven dat ze live camerabeelden op miljarden gezichten kunnen doorzoeken.
Gezichtsherkenning wordt al ingezet voor het opsporen van verdachten en vermiste kinderen. Maar burgerrechtenorganisaties waarschuwen voor de funeste invloed op de vrijheid van meningsuiting als de overheid mensen zomaar kan volgen – of bijvoorbeeld deelnemers aan een betoging kan herkennen. Dat is geen theoretische angst: toen na de dood van Freddie Gray in een politiecel in 2016 tegen de politie van Baltimore werd gedemonstreerd, werden beelden in de sociale media met behulp van gezichtsherkenning afgezocht op betogers tegen wie een arrestatiebevel liep. ‘Als de overheid eenmaal in staat is om je overal te herkennen en te volgen, kun je nooit meer aan het maatschappelijk leven deelnemen of jezelf ergens over uitspreken zonder je identiteit bloot te geven,’ zegt Jennifer Lynch.
New York is nog lang niet zover als China, waar de overheid ongeveer één camera op elke zeven burgers heeft hangen. Maar volgens de burgerrechtenvereniging ACLU kan alleen al de politie van Lower Manhattan over de beelden van meer dan negenduizend camera’s beschikken. ‘We vergelijken camerabeelden in de buurt van een plaats delict met foto’s van mensen met een strafblad,’ laat politiewoordvoerder Jessica McRorie per e-mail weten. ‘We verzamelen niet massaal willekeurige beelden van onze eigen camera’s, internet of sociale media.’
Amazon is een van de bedrijven die gezichtsherkenning voor particulieren aanbiedt. Van de ook door ons gebruikte applicatie, Rekognition, worden door het bedrijf vooral de positieve toepassingen geroemd, zoals het opsporen van vermiste kinderen. Amazon zegt dat klanten zich aan de wet moeten houden en andermans rechten moeten respecteren, maar krijgt kritiek omdat het zijn technologie ook aan opsporingsinstanties slijt. In Oregon wordt Rekognition door de politie van Washington County bijvoorbeeld al gebruikt om daders op te sporen, ook bij lichte vergrijpen zoals winkeldiefstal. En de politie van Orlando in Florida is er een proef mee gestart.
Amazon wijst erop dat Rekognition alleen mogelijkheden oppert en geen knopen doorhakt, en dat het waarschijnlijkheidspercentage van elke identificatie moet worden meegewogen in de menselijke besluitvorming. Als het om ordehandhaving gaat, adviseert het bedrijf alleen af te gaan op treffers met een waarschijnlijkheid van minimaal 99 procent. Maar critici wijzen erop dat de berekening van die percentages ondoorzichtig is en dat het bedrijf gebruikers ook niet kan dwingen zich aan die norm te houden. Geen van onze treffers in Bryant Park voldeed eraan.
‘Als de overheid eenmaal in staat is om je overal te herkennen en te volgen, kun je nooit meer aan het maatschappelijk leven deelnemen of jezelf ergens over uitspreken zonder je identiteit bloot te geven’
Matt Wood, hoofd artificiële intelligentie bij Amazon Web Services, geeft toe dat Rekognition misbruikt kan worden, net als andere informatie waarover justitie kan beschikken. ‘Als opsporingsinstanties iemands rechten schenden, moeten ze zich daarvoor bij de rechter verantwoorden,’ vindt hij. En hij zegt dat het bedrijf nog geen meldingen van justitieel misbruik heeft gekregen. Toch heeft de ACLU het bedrijf in januari per brief gevraagd om deze dienst niet meer aan te bieden aan politie en andere overheidsinstanties.
De organisatie vindt dat Amazon wat betreft de bescherming van burgerrechten achterblijft bij Google en Microsoft. ‘De promotieteksten voor Rekognition klinken als een handleiding voor een dictatuur’, stond vorig jaar te lezen in een persbericht van Nicole Ozer, hoofd technologie en burgerrechten bij de Californische ACLU-afdeling.
Er zijn in de Verenigde Staten geen federale wetten die het gebruik van gezichtsherkenning aan banden leggen. De meeste staten hebben daar ook geen regelgeving voor (met Illinois en Texas als twee van de weinige uitzonderingen). Net als New York, al is daar vorig jaar in de gemeenteraad wel een voorstel ingediend voor een verordening om bedrijven te verplichten inzage te geven in hun gebruik van deze technologie. Dat zou dan van toepassing zijn op ons experiment, maar niet op het gebruik van gezichtsherkenning door politie en justitie. ‘Juridisch gezien zitten we nog in het Wilde Westen,’ zegt Jennifer Lynch van de EFF.
Het gebrek aan regelgeving zet de deur open voor een breed scala aan toepassingen. In 2007 voegde een politiekorps in Arizona foto’s van alle Hondurese rijbewijshouders en veroordeelde criminelen aan zijn database toe. En volgens een rapport van onderzoeker Clare Garvie van Georgetown Law School worden bij een korps in Florida maandelijks achtduizend zoekopdrachten uitgevoerd zonder dat de agenten daarvoor een gerede verdenking moeten hebben.
Critici als Garvie en het EFF hebben wel voorstellen voor regelgeving gedaan: dat instanties alleen zoekopdrachten mogen uitvoeren als er sprake is van een gerede verdenking. Dat het gebruikt van een database met gezichten van rijbewijshouders alleen is toegestaan in levensbedreigende situaties. En dat mensen niet mogen worden gevolgd op grond van hun ras, geloof of politieke overtuiging. Amazon roept zelf ook op tot het creëren van een juridisch kader voor menselijke controle en transparantie. Maar volgens sommigen is de technologie zo gevaarlijk dat regelgeving niet volstaat.
‘De mensheid kan niet gedijen als de technologie voor gezichtsherkenning niet verboden wordt,’ stond vorig jaar in een artikel van Woodrow Hartzog, hoogleraar recht en ICT aan Northeastern University, en Evan Selinger, hoogleraar filosofie aan het Rochester Institute of Technology. Hartzog vindt dat gezichtsherkenning radicaal verschilt van andere vormen van toezicht en unieke gevaren in zich bergt. Je kunt je gezicht moeilijk verbergen en het kan, anders dan vingerafdrukken, van grote afstand worden waargenomen. Grote bestanden met de persoonsgegevens en pasfoto’s van burgers, zoals het rijbewijsregister, bestaan al. En de camera’s die nu in de openbare ruimte hangen, volstaan al bijna om een vorm van massaal toezicht via gezichtsherkenning op te zetten.
Maar het is misschien te laat voor een moratorium of een verbod. Clare Garvie wijst erop dat gezichtsherkenning al door tal van Amerikaanse politiekorpsen wordt gebruikt. ‘We kunnen politie en justitie niet tot twintigste-eeuwse technologie veroordelen louter omdat er gevaren kleven aan de technologie van nu,’ zegt ze.
Richard Madonna, de man die wij in Bryant Park herkenden, heeft wel begrip voor dat dilemma. Hij zegt dat hij aanvankelijk schrok toen hij van ons hoorde, maar dat hij als arts met zijn studenten ook vaak praat over het afwegen van risico’s tegen voordelen. Hij snapt wel dat gezichtsherkenning enorme voordelen kan bieden. Maar misbruik ligt op de loer, zegt hij, als particulieren of instanties die technologie gebruiken om de gangen na te gaan van hele groepen mensen of willekeurige burgers – zelfs iemand die toevallig door Bryant Park loopt.
Deze reportage is onderdeel van The Privacy Project, een maandenlang onderzoeksproject waarin The Times de gevaren van technologische ontwikkeling voor onze anonimiteit en autonomie onderzoekt.
Auteur: Sahil Chinoy
The New York Times
VS | dagblad | oplage 1.120.402
De krant der kranten. Won meer journalistieke prijzen dan enig ander medium. Het motto ‘All the news that’s fit to print’ wordt sinds 1896 bewaakt door de familie Ochs Sulzberger en gekielhaald door de Britse filosoof Alain de Botton, die de correctie: ‘Some news that’s fit to print’ voorstelt.
