‘Nieuwe kerncentrales niet haalbaar en niet betaalbaar’
Betekenen oorlog en misdaad het einde van privacy in Europa?
een gepixeld gezicht
© cc-foto: EFF Photos
De oorlog in Oekraïne kostte al meer dan 1400 Oekraïners het leven. Om de identiteit van de slachtoffers te bepalen wordt een systeem gebruikt waar tien miljard foto’s in staan, zonder dat iemand in die database daar ooit toestemming voor heeft gegeven. Dat is niet het enige Europese privacy-schandaal: de Europe Commissie heeft een plan voor één van de grootste gezichtsherkenningssystemen ter wereld. Betekent dit het einde van privacy in Europa?
Clearview
Clearview AI, een Amerikaans bedrijf, helpt de Oekraïense overheid ‘om niets’ om de identiteit van haar burgers te helpen bepalen. Zo kunnen dodelijke slachtoffers beter geïdentificeerd worden. Ook bij checkpoints komt de software van pas, want met de techniek worden niet-Oekraïners sneller herkend. Dat klinkt als goed nieuws, maar dat is het niet.
De gezichtsherkenningssoftware van het bedrijf is namelijk allesbehalve privacy-vriendelijk. Sterker nog: de kans is groot dat ook jouw foto in Clearview AI staat, zonder dat je daar ooit toestemming voor hebt gegeven. Ook als je geen social media hebt, sta je waarschijnlijk in het systeem, want de kans is groot dat je op een (online) groepsfoto staat en ‘getagd’ bent. Clearview heeft inmiddels meer dan tien miljard foto’s via social media en andere online bronnen verzameld.
Google, Meta (het moederbedrijf van Facebook) en Twitter verzochten Clearview AI om te stoppen met het verzamelen van foto’s, maar daar gaat het bedrijf vrolijk mee door. Boetes houden het bedrijf niet tegen, zelfs niet de 20 miljoen euro boete die het vorige maand kreeg in Italië omdat het bedrijf zich niet houdt aan de Europese privacyrichtlijn GDPR.
Clearview AI komt daarbij regelmatig in opspraak wegens racisme en andere vormen van discriminatie die zich vaak voordoen bij kunstmatig intelligente systemen. Willen we echt dat een racistisch algoritme bepaalt wie wie is? Leren we dan niets van de toeslagenaffaire waarbij een racistisch algoritme bepaalde wie waarschijnlijk met toeslagen zou frauderen?
Het bedrijf wil tot overmaat van ramp zijn software verkopen aan Verenigde Arabische Emiraten, dat weinig vredelievend is tegenover politieke dissidenten. Op de verlanglijst staan ook Qatar en Singapore, waar homoseksualiteit strafbaar is. Moeten deze landen echt de beschikking krijgen over een database met tien miljard foto’s om zo kritische burgers en homo's op te sporen? En wat gebeurt er als deze software in handen komt van Russische soldaten, die zo ook Oekraïense burgers kunnen identificeren?
Prüm II
Ook in de EU staat privacy onder druk. Prüm II, een nieuw plan van de Europese Commissie, laat Europese landen foto’s van verdachten vergelijken. Net zoals bij Clearview AI wordt er gebruik gemaakt van slimme algoritmes om geportretteerden te identificeren. Handig als een Spaanse crimineel zich in Frankrijk bevindt, toch?
Als dit plan doorgaat, ontstaat een van de grootste gezichtsherkenningssystemen ter wereld. De politiediensten kunnen stilstaande beelden van CCTV-camera's, foto's van sociale media of die op de telefoon van een slachtoffer vergelijken met mugshots in een politiedatabase. De burgerrechten-ngo European Digital Rights (EDRi) noemt het de meest uitgebreide biometrische surveillance infrastructuur ter wereld.
Het gebruik van gezichtsherkenningstechnologie is niet zonder risico: wie verkeerd geïdentificeerd wordt door zo’n algoritme is de klos, wat tot schrijnende situaties leidde in de Verenigde Staten. Tientallen steden in Amerika verbieden hun lokale politiediensten dan ook om gezichtsherkenning-technologie te gebruiken. De EU debatteert op dit moment nog over zo’n verbod.
Clearview AI en Prüm II illustreren een modern dilemma voor Europa. Accepteren we dat de privacy van – ook onschuldige – burgers geschonden wordt in de strijd tegen misdaad? Komen we in verzet tegen een bedrijf dat software ontwikkelt om mensenrechtenschendingen mogelijk te maken, ook als dat bedrijf Oekraïne helpt om slachtoffers te identificeren? Is het weggeven van software aan een land in oorlog niet een smakeloze manier om goede sier te maken, iets als greenwashing (duurzame schijn), maar dan warwashing? En zouden we iets leren van de toeslagenaffaire, waarbij we de macht uit handen gaven aan een racistisch algoritme?
cc-foto: EFF Photos
Reacties (8)
de Europese unie staat voor vrijheid en democratie. privacy is het 1e beginsel van vrijheid en dus mag zo’n systeem er nooit komen. het idee wordt gebruikt door bep. partijen omdat het goedkoper is dan voldoende politie etc inzetten voor zoekacties of voor te weinig creativiteit. opmerkelijk is dat volgende generaties het allemaal makkelijk over zich heen laten komen
Ook in Nederland wordt illegale hacksoftware gebruikt, door de politie. Die weigert daar transparant over te zijn, wat nogal logisch is want het mag gewoon niet. Het is niet ondenkbaar dat ze ook Clearview hebben
Dit proces is al veel langer bezig. Het progressief liberale denken dat sinds een aantal decennia de Westerse wereld beheerst, wordt steeds meer vergezeld van een hang naar controle zoals in een totalitaire beweging. Wat op zich vreemd is omdat het oorspronkelijk anders beloofde. De Rusland-Oekraïne oorlog of misdaad zijn slechts versnellers in dit geheel zoals Corona dat nog veel meer was en is. Lees bijvoorbeeld een aantal goede stukken over de digitale Europese ID, sinds 21 december vorig jaar op FTM. De huidige politiek in veel Westerse landen neigt steeds meer naar het Marxisme met voor iedereen gelijke uitkomsten (niet gelijkheid) als hoogste doel, duurzaamheid als de nieuwe religie en de ondergang van de aarde als nieuw angstbeeld. Onder het mom van bestrijden van het kwade, het verkrijgen van gelijke uitkomsten en het redden van de aarde en daarmee onszelf, worden we in een nieuw keurslijf gehesen met nieuwe geboden en verboden. Bezit en consumeren zal teruggedrongen worden. Streven naar excellent presteren zal ingeperkt worden. Onder het mom van veiligheid en duurzaamheid zullen veel vrijheidsbeperkende maatregelen plaatsvinden. Rechts-extremisme heeft zeker een totalitaire maatschappij tot gevolg (en erger). Ik ben echter oprecht bang dat onze democratische instituten ook steeds meer kenmerken van zo’n maatschappij overnemen. Hopelijk vergeten ze dan het volk niet alsnog goed mee te nemen. Populistisch (extreem) rechts zal er anders garen bij spinnen.
Wow, je moet wel een heel erge kronkel hebben om massasurveillance progressief te noemen. Het is een voortvloeisel van neolibereralisme
@ Karingin Het is en/en. Ik zie het progressieve smaldeel steeds meer marxistische trekken krijgen. In samenhang met het liberalisme bestaat in mijn optiek een grote kans op een koers naar een totalitaire heilstaat. Voor een belangrijk deel, ben ik het met progressieve standpunten eens, maar het is vooral het dedain en het gemak waarmee andersdenkenden worden weggezet of genegeerd die volgens mij gevaarlijk zijn. Een beweging die ook zomaar kan omslaan naar een totalitaire staat. Ik ben zo kritisch op progressief omdat ik het de verkeerde kant op zie gaan. Maar misschien moet ik niet elk detail (is “woke” een detail?) uitvergroten alsof dat al leidt tot een maatschappij die een Orwell of Huxley al lang geleden beschreven.
@sam v: er is niets marxistisch aan onze tegen extreem rechts aanschurende coalitiepartners. Onder rechts wordt de vrijheid altijd aangetast.
Het is goed om te vermelden dat Clearview niet alleen gebruikt wordt om Oekraïners te identificeren maar ook Russen om vervolgens hun familie te informeren. Bedoeld om Russen bekend te maken met de realiteit van Poetins 'militaire ingreep' om zo een einde aan de oorlog te maken. Psychologische oorlogsvoering met een bijsmaakje. https://www.washingtonpost.com/technology/2022/04/15/ukraine-facial-recognition-warfare/
Heel verontrustend proces. Overheden en grote commerciële private multinationals die beschikking hebben over deze technologie kunnen daarmee nooit maar dan ook nooit worden vertrouwd.