Joop

Volg San Francisco: verbied gezichtsherkenningssoftware in de publieke ruimte

  •  
21-06-2019
  •  
leestijd 4 minuten
  •  
IAH Houston Airport Biometrics and CBP Operations

© cc-foto: US Customs

San Francisco verbood dit jaar als eerste stad het gebruik van gezichtsherkenningstechnologie. Nederlandse steden zouden er goed aan doen dit voorbeeld te volgen, want er dreigt een grove aantasting van onze vrijheden
Het belangrijkste bezwaar tegen het gebruik van gezichtsherkenningstechnologie is dat het inbreuk maakt of druk zet op een hele reeks van burgerrechten. Op de vrijheid van vergadering, vereniging en betoging, de vrijheid van meningsuiting, het recht op gelijke behandeling, de persoonlijke levenssfeer van burgers en de mogelijkheid om je vrij en dus ook anoniem te kunnen verplaatsen.
Deze inbreuken worden vergroot door de onzichtbaarheid van de inzet van de technologie. Dat brengt namelijk ook de mogelijkheid om de inzet ervan aan te vechten in het geding. Omdat je overal herkend zou kunnen worden, gaat er een chilling effect van uit, wat bijdraagt aan een angstcultuur. Het maakt de samenleving er niet vrijer of leuker op.
Naast het principiële bezwaar zijn er ook technologische bezwaren. De technologie is onnauwkeurig en inherent discriminatoir. De Nederlandse politie, dat zelf werkt en experimenteert met gezichtsherkenningsoftware CATCH, erkent dit. De politie kent aan een match om deze reden, zelfs na verificatie van twee onafhankelijke, menselijke experts, geen bewijswaarde toe. Een match wordt enkel gezien als aanwijzing dat er veel overeenkomsten zijn.
Door de onnauwkeurigheid is de toegevoegde waarde van de technologie onduidelijk. Het middel is ineffectief en de aanschaf een verspilling van gemeenschapsgeld. Daarnaast zijn de risico’s op false positives onevenredig verdeeld. De software is namelijk getraind op basis van datasets waarin witte mannen oververtegenwoordigd zijn. Hierdoor zit er een bias in het systeem waarbij vrouwen en niet-witte mensen een onevenredig groot risico lopen om onterecht gematched te worden. Dit maakt het middel ook echt schadelijk. Minderheden lopen zo het risico eerder en onterecht in het vizier van de overheid terecht te komen. Vooroordelen worden op deze manier ook versterkt.
Bovendien heeft een systeem dat gezichten herkent een database met gezichten nodig. Er is op dit moment onvoldoende nagedacht over hoe om te gaan met grote verzamelingen biometrische informatie van burgers. Over verzameling, verwerking en opslag. Dat de gevoeligheid nog niet helemaal is doorgedrongen is terug te zien in de omgang met de databank van CATCH. In de strafrechtelijke databank worden al gezichten opgeslagen van mensen die zijn gearresteerd voor een misdrijf waar voorlopige hechtenis voor is toegelaten. Deze mensen zijn dus (nog) niet veroordeeld. Bij vrijspraak moet het gezicht uit de databank worden verwijderd. Hoe snel dit gebeurt is onduidelijk.
Het is opmerkelijk dat juist San Francisco het voortouw neemt in het verzet. De stad is de thuishaven van tech-giganten en een sterke Silicon Valley-lobby. Maar nu roept Google op tot regulering, en beweert het zijn technologie niet te verkopen voordat beleidsmatige en technische vragen zijn beantwoord. Ook Brad Smith, de topman van Microsoft roept op tot regulering “om een 1984 scenario te voorkomen.” Amazon-werknemers slaan alarm in een brief aan CEO Jeff Bezos. Ze waarschuwden voor de schadelijkheid van Rekognition, Amazon’s gezichtsherkenningssoftware, als bewakingsinstrument voor de overheid, en riepen op af te zien van overeenkomsten met de politie.
Als zelfs de techbedrijven die de technologie maken wijzen op de risico’s, is er echt iets aan de hand. Maar laten we niet naïef zijn: waarschijnlijk willen ze er uiteindelijk toch allemaal de markt mee op. Ze willen echter eerst beleidsmatige en technologische vraagstukken beantwoord hebben die de technologie een zweem van politieke legitimiteit kunnen geven. De principiële bezwaren zijn daarmee echter niet weggenomen. Onze burgerlijke vrijheden en publieke waarden blijven onder druk staan zolang de techniek niet gewoon wordt verboden. Het zou daarom heel goed zijn als lokale bestuurders in Nederland zich laten inspireren door hun collega’s in San Francisco en in hun eigen gemeente een soortgelijk initiatief nemen.
Het is mogelijk om de onnauwkeurigheid en de bias uit het systeem te halen. Maar met het enkel verbeteren van de technologie zijn de bezwaren niet weggenomen. We moeten ons realiseren dat deze bias niet alleen in de technologie zelf zit, maar ook in het systeem waarbinnen het wordt ingezet en de instituties die het gebruiken. Zolang de politie nog steeds etnisch profileert zal dit er alleen voor zorgen dat de technologie even goed OP iedereen werkt. Het probleem dat de technologie zeker niet even goed VOOR iedereen werkt zal dan blijven bestaan. We kunnen onszelf de vergaande implicaties van deze technologie niet veroorloven. Bedenk wel: je hebt maar één gezicht, en die kun je niet ruilen of thuislaten.
Delen:

Praat mee

Heb je een vraag, suggestie of wil je gewoon iets kwijt? Dat kan hier. Lees onze spelregels.

avatar

Reacties (19)

EricDonkaew
EricDonkaew23 jun. 2019 - 20:38

We kunnen wel gezichtsherkenning bekritiseren, maar is het niet mosterd na de maaltijd? Het is de standaard bij haast iedere douane. In Thailand komen daar nog acht vingerafdrukken bij van evenzovele vingers. Zolang het gebeurt om zware criminelen en terroristen voor te zijn vind ik het prima. Het klassieke argument - Ik heb niets te verbergen - blijft voor velen en ook voor mij overeind staan.

1 Reactie
Libertain
Libertain24 jun. 2019 - 8:36

("Het klassieke argument – Ik heb niets te verbergen – blijft voor velen en ook voor mij overeind staan.") Vergeet niet dat dit klassiek argument is voor het eerst binnen de DDR bedacht. Het was de moto waaronder de totalitaire systeem ingevoerd is. Niet minder belangrijk is het feit dat bovengenoemd argument alleen en enkel geldig is binnen een systeem dat geen enkel fout maakt en kent. We zijn nog altijd heel erg ver van - ook volgens het auteur van dit artikel.

quatsch
quatsch23 jun. 2019 - 19:39

Deze techniek zal er niet voor zorgen dat je gevrijwaard bent van criminaliteit en terrorisme. Ze maakt echter wel de weg vrij voor een totalitaire staat.

de Boer2
de Boer223 jun. 2019 - 17:23

Gezichtsherkenning? Verbieden? Als men dement wordt dan herken je vaak niemand meer. Ga dat maar eens verbieden, je wordt vast voorgedragen voor een heel grote prijs. En probeer ook niet het maken van selfies te verbieden of foto's van jezelf inclusief die in het bloot. Je wordt meteen uitgefloten. Ik ben juist vóór gezichtsherkenning en om verwarring te voorkomen: meteen maar je antecedenten erbij Heus, als iedereen meteen herkenbaar is met naam en toenaam, dat zou me een stuk schelen. Waarom denk je dat er altijd bivakmutsen gedragen worden en donkere kleding ?Waarom als die leuke fantasienamen zijn?

Akira Fukuro
Akira Fukuro23 jun. 2019 - 12:11

Slechte zaak, er worden misdrijven voorkomen of opgelost door deze software. Beter is om de vrijheid te beschermen in de bewaartermijnen van de informatie en beperking in de doelen waarvoor het mag worden gebruikt. Ooit heeft in Nederlander een rechtszaak tegen de belasting gewonnen omdat die hem had aangeslagen op basis van kentekenherkenning van trajectscontrole. In Nederland is een magische grens van maximaal 4 jaar gevangenisstraf, als het om een misdrijf gaat waarop maximaal 4 jaar of meer gevangenisstraf staat krijgt de politie meer bevoegdheden bij opsporing. Ze zouden diezelfde grens ook bij gezichtsherkennende software kunnen toepassen. In California kan dat niet werken omdat je daar voor een klein misdrijf al levenslang kunt krijgen, als het de derde keer is dat je wordt gepakt.zo kan het gebeuren dat iemand die gepakt is met drugs levenslang zit en iemand die een ander heeft doodgeschoten na tien jaar weer vrij komt. In Nederland hebben we zulke ridicule wetgeving niet, we kunnen dan ook niet een op een motivaties en praktijken uit San Francisco overnemen. We moeten onze eigen afwegingen maken. Ik denk dat menig homoseksueel zich veiliger voelt als de pakkans voor een potenrammer 90% wordt.

Extra belegen
Extra belegen23 jun. 2019 - 7:10

Ik vind het een gevaarlijke technische ontwikkeling. Uiteraard zijn er vele pro's voor te bedenken (handhaving van de orde, opsporen van daders/verdachten, maar er is ook zoveel misbruik mogelijk.. puur afhankelijk van de overheid die aan de macht is.

adriek
adriek23 jun. 2019 - 6:41

"...deze bias niet alleen in de technologie zelf zit..." De bias zit juist niet in de technologie. De bias zit in degenen die de technologie implementeren en (vooral) interpreteren. Zoals in vele voorbeelden gebleken is wordt een bias meestal niet opzettelijk ingebouwd, maar dat is nu juist het probleem. De ontwikkelaars van dergelijke algoritmes (systemen) zouden niet alleen gespecialiseerd in elektronica, software en kunstmatige intelligentie moeten zijn ook en vooral in ethiek en sociologie (en statistiek). Ik vrees echter dat er maar weinig 'projectleiders gezichtherkenningssoftware' zijn die de financiering van een ethicus meeneemt in zijn projectvoorstellen.

Tom Meijer
Tom Meijer22 jun. 2019 - 12:16

Al jaren vind ik dat eigenlijk alle camera's op de openbare weg verwijderd zouden moeten. De nadelen zijn beduidend groter dan de voordelen.

1 Reactie
Buitenstaander
Buitenstaander23 jun. 2019 - 11:06

Ik zie je punt, maar zie dus ook voordelen: neem nou het opsporen van mensen die vermist zijn…. Maar nadrukkelijk is van belang WIE mag er over beschikken en hoe betrouwbaar is de privacy mbt het gebruik. Daar zit ook mijn angst.

Ballonnendoorprikker
Ballonnendoorprikker22 jun. 2019 - 10:09

Beste mevrouw Houwing, Ik lees alleen maar 'technische bezwaren'. De techniek is niet perfect want ze herkent niet goed, ze bevat een bias. Stel dit wordt allemaal opgelost is invoering dan wel wenselijk? Werkt de techniek dan wel 'goed VOOR iedereen'? Kunt u een voorbeeld van techniek noemen die wel 'goed VOOR iedereen werkt'? Kan niet alle techniek ten goede of ten kwade worden aangewende dus VOOR en TEGEN mensen worden gebruikt? Liggen argumenten tegen gezichtsherkennende technologie in de openbare ruimte niet op een ander niveau? Ik vind het zelf nogal bezwaarlijk, en dat bezwaar heb ik nu ook al tegen 'camerabewaking' dat ik niet meer 'ongezien' kan zijn. Ik heb niets te verbergen maar toch vind ik het niet prettig om overal 'gezien' te worden. Dat er mogelijkheid is om mijn 'gang' na te gaan. Dat deze gegevens wordt 'bewaard' en dat ze 'geanalyseerd' kunnen worden. En eenmaal ingevoerd gaat het niet meer weg en we kunnen er dan vanuit gaan dat er ook misbruik van wordt gemaakt. De geschiedenis laat zien dat dit met alle techniek, macht en informatie gebeurt.

Bert de Vries
Bert de Vries22 jun. 2019 - 10:04

Een goedkoop cliché is, dat de vooruitgang niet is tegen te houden. Het cliché is goedkoop omdat ze een waarheid als een koe betreft. Gezichtsherkenning is een veiligheidsmiddel dat z'n weerga niet kent, en is daarom niet tegen te houden. Regel de toegang tot een juwelierszaak met gezichtsherkenning en overvallen zijn zo goed als als uitgesloten. Regel, zoals op dit moment in China gebeurt, goed burgerschap met gezichtsherkenning in de publieke ruimte, en de modelburger wordt geboren. Het is de droom van bijna alle machthebbers, ondernemers, bestuurders en politici: maximale controle over de consument c.q. de burger. Gezichtsherkenning in de publieke ruimte zal worden verkocht als een garantie voor 'onze veiligheid' en dus worden omarmd door de horden die 'niets te verbergen hebben'. En die horden vormen doorgaans de meerderheid van een populatie.

1 Reactie
Frits Jansen
Frits Jansen23 jun. 2019 - 12:19

Er schijnen nog mensen te zijn die zelf beslissen wat ze kopen In een moderne marketing-maatschappij is dat natuurlijk onacceptabel. Dus moet er keihard worden ingegrepen. Anders at aan de w8nstwn onder druk.

Sam V
Sam V22 jun. 2019 - 9:58

Een wat onevenwichtig verhaal door twee verschillende zaken door elkaar te halen. Of je bent tegen het gebruik van deze camera’s en software omdat het de privacy En andere burgerrechten van iedereen schendt. In dat geval maakt etnisch profileren niet uit. Of privacy is niet het belangrijkste argument, maar de discriminatie die dit in de hand zou werken. Maak een keuze, nu lijkt het etnisch profileren argument erbij gehaald om meer mensen aan te spreken. Mij spreekt het eerste deel overigens wel aan. Het etnisch profileren punt is overtrokken.

Frits Jansen
Frits Jansen22 jun. 2019 - 8:20

Ik ben in een stil straatje in elkaar geslagen door een junk (neem ik aan, want de "oogst" was niet meer dan één paar tientjes). Was ik niet beter af geweest met cameratoezicht?

4 Reacties
Satya
Satya22 jun. 2019 - 14:01

Nah. Ik ben in China geweest de smart city. Nee, ik geloof niet dat je dan beter af bent.

Le Chat Botté
Le Chat Botté23 jun. 2019 - 5:05

@frits Sterkte met het verwerken van een dergelijke afschuwelijke ervaring Of dit met gezichtsherkenning anders zou zijn gelopen? Als de dader een zonnebril draagt, dan wordt diens gezicht niet herkend. Vaak is technologie bedreigender voor de privacy van de goedwillende burger, dan voor de kwaadwillende crimineel.

Frits Jansen
Frits Jansen23 jun. 2019 - 12:12

@Satya: maar ik hoop dat u niet in elkaar bent geslagen. Het gebeurde trouwens in Palermo, wat mijn omgeving aanleiding gaf over Maffia te beginnen, heel flauw, maar de Maffia komt niet in beweging voor een paar tientjes.

EricDonkaew
EricDonkaew23 jun. 2019 - 20:32

@Jansen: (...) heel flauw, maar de Maffia komt niet in beweging voor een paar tientjes. ---------------------------------- Nee, maar wat jou is overkomen en de maffia komen voort uit dezelfde mentaliteit. Waarom zou je gaan werken als je veel makkelijker je geld bij elkaar kunt rapen? Palermo dus.

johannn2
johannn221 jun. 2019 - 19:49

. . . . . omdat het kán. .