Sfeerfoto van Joop
Joop
Joop

De Nederlandsche Bank biedt excuses aan voor slavernijverleden

President Klaas Knot vertelt over de praktijken van zijn historische voorganger
Joop

We moeten onze 'slimme steden' niet laten inrichten door techbedrijven

  •  
30-12-2019
  •  
leestijd 7 minuten
  •  
slimmestad

© cc-afbeelding: Tumisu

Technologie biedt kansen voor mooie toepassingen, maar door het verdienmodel van bedrijven en de controledrang van overheden wordt technologie vaak gebruikt om ons te controleren en manipuleren. Betrek de burger daarom bij het ontwerp van de slimme stad.
Op steeds meer plekken worden stukjes ‘slimme stad’ ontworpen. Hier wordt met sensoren van alles gemeten om dingen makkelijker te maken of ons gedrag een bepaalde kant op te sturen. Twee voorbeelden hiervan zijn het ‘Stratumseind Living Lab’ in Eindhoven en de ‘Schwung’ app, waarmee je ‘slimme stoplichten’ laat weten dat je eraan komt. Op beide projecten is veel aan te merken.
Bij het  Living Lab  werd van alles gemeten. Camera’s en sensoren, maar ook social media monitoring, herkomst bezoekers en wifi-tracking werden gebruikt. De politie mocht hier gewoon mee gaan spelen, zonder beleid. Bezoekers werden zo proefdieren voor een politie die naar hartenlust op hen kon experimenteren. Op geen enkele manier werd de privacy geborgd of voorkomen dat gediscrimineerd zou gaan worden. Democratische controle ontbrak.
Ga uit van privacy by design De ‘Schwung’-app viel vooral op omdat het zo overduidelijk is dat er een privacyvriendelijker en inclusiever alternatief bestaat, waarbij je geen app hoeft te installeren; laat staan daar gegevens aan af te staan. Bij ‘Schwung’ moet je een app installeren zodat het stoplicht weet dat je eraan komt en daarom al van tevoren op groen kan gaan. Deze methode sluit mensen uit die geen app willen installeren, omdat ze bijvoorbeeld niet willen dat hun locatiegegevens, bedoeld of onbedoeld, uiteindelijk bij een fastfoodrestaurant of zorgverzekeraar terechtkomen.
Zeven van deze ‘iVRI-stoplichten’ (“intelligente verkeersregelinstallaties”, red.) zouden een miljoen moeten gaan kosten. Voor dat geld kun je ook een aantal verkeerssensoren aanleggen, of thermische camera’s ophangen. Beide meten wel of en hoeveel personen ergens zijn, maar meten niet wie, wanneer, op welke locatie is. Een alternatief met  privacy by design  is prima beschikbaar en eigenlijk nog een stuk simpeler ook. Schwung is dus een schoolvoorbeeld van hoe het  niet  moet!
Risico op raciaal profileren In steden worden natuurlijk al langer veel gegevens over ons vastgelegd. Van sommigen wordt bijgehouden hoeveel huisvuil ze produceren via een ‘huisvuilpas’. Ons reisgedrag wordt vastgelegd via de OV-chipkaart en camera’s met automatische nummerplaatherkenning (ANPR). Recent zijn daar ook de eerste camera’s met  gezichtsherkenning  aan toegevoegd. Deze worden onder andere al in het  OV  gebruikt om bepaalde mensen te weren. Ook sommige bodycams van de politie worden inmiddels uitgerust met gezichtsherkenning. In een strafrechtdatabase van ‘zware misdrijven’ staan inmiddels gezichten van  1,3 miljoen  ‘verdachten van zware misdrijven.’ Aangezien er (gelukkig) bij lange na niet zoveel zware misdrijven worden gepleegd, blijkt duidelijk dat hier veel onschuldige mensen in staan, waaronder veel asielzoekers.
Anonieme data is niet zo anoniem Veel fabrikanten beweren dat ze gegevens anonimiseren, maar de  wetenschap  bevestigt dat dit eigenlijk niet kan. Wanneer verschillende gegevens van een onbekend individu worden gekoppeld aan een andere gegevens, worden die vaak wel degelijk  herleidbaar tot de persoon. En  gegevens  komen nogal eens  op straat  te liggen, dus uiteindelijk is het heel moeilijk te garanderen dat je gegevens niet voor hele andere doeleinden gebruikt worden, zelfs al geloof je volledig in de goede intenties van de fabrikant.
Sluipenderwijs wordt de democratie ondermijnd Daarnaast blijkt er regelmatig sprake van ‘function creep’. Gegevens die eerst voor een bepaald doeleinde gebruikt worden, worden later vaak voor heel andere doeleinden gebruikt. Een recent voorbeeld hiervan zijn de milieucamera’s in Amsterdam. Eerst werden deze enkel gebruikt om vuile dieselauto’s uit milieuzones te weren, maar inmiddels is gebleken dat de politie al jaren meekijkt om verdachten op te sporen, zonder dat dit was bekendgemaakt.
Dat onze gegevens, bedoeld of onbedoeld, bij bedrijven en overheden terechtkomen die eigenlijk niets te maken hebben met de oorspronkelijke toepassing, is een groot probleem. Zowel overheden als bedrijven gebruiken dit soort gegevens namelijk om ons gedrag te manipuleren. Bedrijven manipuleren ons koopgedrag. Zij maken misbruik van onze zwakheden om ons dingen aan te smeren.
Met je locatiegegevens kan een fastfoodketen bijvoorbeeld proberen je een hamburger aan te smeren, net als je van de sportschool komt en daar erg trek in hebt. Terwijl je waarschijnlijk juist geen vette hamburger wilt eten als je net naar de sportschool bent geweest, als je daar van tevoren goed over zou nadenken. Het is zelfs mogelijk dat, op basis van je social media-activiteit, herkend wordt wanneer je in een emotioneel zwak moment bent, omdat je bijvoorbeeld net een vervelend bericht hebt gelezen, en dat je  juist  dan verleid wordt tot het kopen van iets wat je eigenlijk niet wilt.
Dit probleem moet niet onderschat worden. Een  kwart  van de mensen is koopverslaafd. Met name door online impulsaankopen. Daarnaast is er  veel aandacht  geweest voor het  manipuleren  van ons stemgedrag door politieke partijen, bedrijven en opportunisten, door misbruik te maken van grotendeels onbewuste processen. Op deze manier wordt dus ook de democratie ondermijnd.
Geen handel in persoonlijke gegevens Overheden en (semi-)overheidsinstellingen gebruiken dit soort gegevens vooral om ons te controleren en ‘ons gedrag in goede banen te leiden’. Dit is misschien vaak met de beste bedoelingen, maar hier spelen veel ethische kwesties. Wie bepaalt precies wat goed gedrag is, en waarom?
Wanneer ben je mensen aan het helpen met het bereiken van een doel dat ze zelf nastreven, en wanneer ben je als overheidsinstantie mensen aan het manipuleren tot doelen die je als overheid misschien voor ogen hebt, maar die helemaal geen doelen zijn van het individu zelf?
De apps van verzekeraars die je korting geven als je bijvoorbeeld veilig rijdt of gezond eet en genoeg sport schieten momenteel als paddenstoelen uit de grond. Hiervoor moet je allerlei gegevens delen, en dit betekent dus dat persoonlijke gegevens als handelswaar worden gezien. Terwijl het mensenrecht privacy niet verhandelbaar zou moeten zijn. Net als dat er bijvoorbeeld hele goede redenen zijn dat mensen hun nier niet voor geld mogen verkopen, vanwege het recht op lichamelijke integriteit. Daarnaast kun je je afvragen of mensen met bijvoorbeeld een impulsieve persoonlijkheid niet benadeeld worden door zulke apps, en of het sociale principe achter verzekeren niet verdwijnt, als iedereen uiteindelijk voor zijn eigen risico opdraait.
Maak profiling-algoritmes transparanter Ook worden gegevens steeds vaker aan elkaar gekoppeld om allerlei risicoprofielen op mensen te plakken. Een recent voorbeeld hiervan is  SyRI , waar allerlei mensen als fraudeur worden bestempeld. Vaak ten onrechte, en op een volledig ondoorzichtige manier, op basis van een enorme vergaarbak aan persoonlijke gegevens. Groepen die al zwakker stonden in de samenleving werden veel vaker gedupeerd. Volledig terecht dat hier onlangs een  rechtszaak  tegen werd gevoerd. Wij zijn erg benieuwd naar de uitspraak, begin 2020.
Bewijslast wordt steeds vaker omgekeerd. Een systeem beschuldigt mensen en vervolgens wordt de bewijslast bij hen gelegd om te bewijzen dat dat niet zo is. De recente  toeslagenaffaire  laat pijnlijk zijn hoe levens kapotgemaakt kunnen worden door dergelijke valse beschuldigingen. Mensen moesten tienduizenden euro’s onterecht terugbetalen. Soms zelfs een ton. Mensen werden meer dan tien jaar lang in ellende gestort. Sommigen verloren hun huis, of hun auto. Huwelijken liepen stuk. Al die tijd werd hen het gevoel aangepraat dat zij iets fout zouden hebben gedaan. En als zij na jarenlange strijd eindelijk inzage krijgen in hun dossier, krijgen zij dit grotendeels zwartgelakt terug. En ook bij deze affaire bleken mensen die al zwakker stonden in de samenleving, en ook mensen die een niet-Westerse afkomst hadden, relatief veel vaker te worden gedupeerd. Ook bedrijven gebruiken steeds vaker dit soort profiling-algoritmes om beslissingen over mensen te maken, bijvoorbeeld om te bepalen of je een bepaalde lening of verzekering mag hebben. Zowel overheden als bedrijven zullen een totaal andere houding moeten aannemen en transparanter moeten opereren om het vertrouwen bij burgers te herstellen.
Voer verbod in op gezichtsherkenning Ten slotte kunnen veel andere rechten in het geding komen als gegevens door overheden voor andere doeleinden worden gebruikt. Opsporingsdiensten zullen bijvoorbeeld bijzonder geïnteresseerd zijn om locatiegegevens te gebruiken om een demonstratiedatabase aan te leggen, waarmee ze vervolgens kunnen bepalen of ze mensen extra in de gaten moeten houden, bijvoorbeeld omdat ze wel eens een actie zouden kunnen organiseren om Shell plat te leggen.
Wie durft nog te demonstreren als het algemeen bekend is dat je dan het risico loopt in zo’n database terecht te komen? Zeker als hiervoor ook camera’s met automatische  gezichtsherkenning  worden gebruikt, en als eis voor een demonstratie wordt meegegeven dat je herkenbaar meeloopt, ‘vanwege veiligheidsoverwegingen’? Dit zou een grote inperking van het demonstratierecht betekenen. Op deze manier kom je dan al snel in een totale  controlesamenleving  terecht, zoals we nu in China al gedeeltelijk zien gebeuren. Het zou dan ook goed zijn nu zo snel mogelijk een  verbod  op gezichtsherkenning voor handhaving in te voeren, zoals  recent al in San Francisco  is gebeurd.
Ontwerp volgens open source-principes Vaak zijn er goede alternatieven beschikbaar, waarbij niet meer persoonlijke gegevens worden verzameld dan nodig. Zo kun je bijvoorbeeld denken aan nummervakparkeren in plaats van kentekenparkeren. Hierbij betaal je anoniem voor een nummervak, in plaats van dat vastgelegd moet worden welke auto, waar, wanneer parkeert. Bovendien maakt dit het parkeersysteem socialer, omdat je ook voor een ander kunt betalen. Bijvoorbeeld voor gasten die bij je op bezoek komen. Om  privacy by design  goed toe te passen is het noodzakelijk dat open source-principes worden toegepast, zodat iedereen kan controleren dat het systeem inderdaad zo werkt als wordt beweerd.
Bewoners de baas in de slimme stad De ‘ slimme stad ’ is uiteindelijk een technologisch systeem dat bestaat rondom mensen. Om te zorgen dat deze technologie de belangen van deze mensen dient, is het belangrijk dat bewoners aan tafel zitten bij het ontwerp van de slimme stad. Ontwerp de stad samen met en in co-creatie met alle belanghebbenden. De gebruiker is uiteindelijk de beste ontwerper. Bovendien maakt dit mensen direct meer bewust van de technologie om hen heen en hoe gegevens gebruikt zouden kunnen worden om hen te beïnvloeden. Dit ‘ data-bewustzijn ’ is belangrijk om samen betere beslissingen te maken over hoe we met de gegevens om willen gaan die we uiteindelijk samen produceren.

Praat mee

Heb je een vraag, suggestie of wil je gewoon iets kwijt? Dat kan hier. Lees onze spelregels.

avatar

Reacties (28)

SpijkerMaarten
SpijkerMaarten31 dec. 2019 - 10:32

Mooi boek dat dit aanstipt: https://www.athenaeum.nl/boek/?authortitle=richard-sennett%2Fstadsleven--9789029093064

Minoes&tuin
Minoes&tuin31 dec. 2019 - 8:15

Tja, dat noemen ze dan vooruitgang. Ik heb het daar vandaag nog met mensen over gehad. Die maakten zich daar helemaal niet druk om. Ik heb uiteindelijk maar gezwegen.

1 Reactie
Minoes&tuin
Minoes&tuin31 dec. 2019 - 8:19

Ik bedoel gisteren natuurlijk!

Lowieke de Vos
Lowieke de Vos30 dec. 2019 - 18:50

Op de weg is het al de dagelijkse praktijk. Ik ben vandaag vanaf Hazeldonk Nederland binnen gereden en ben via Rotterdam, Delft, Den Haag, Hoofddorp, Rottepolderplein, Wijkermeer, Heemskerk naar mijn geliefde Kaasstad Alkmaar gereden. Op dit stuk weg van een kleine 180KM ben ik door zeker 150 camera's geregistreerd. Mijn nummerbord en mijn snelheid werden gecontroleerd. Van onze gezichten werden scans gemaakt en deze werden geanalyseerd. Er is geen haan die er naar kraait, maar toch is dit een enorme inbreuk op mijn privacy. Moet je eens kijken wat er gebeurt wanneer je met Duitse Exportplaten dezelfde route aflegt. Dan blijkt er opeens wel heel erg veel blauw op straat te komen. Dan weet je ook meteen waar de prioriteiten van de Overheid liggen.

adriek
adriek30 dec. 2019 - 15:59

Slimme steden.... Net zo slim als de slimme meter die we al een paar jaar hebben. Waarvan ondanks allerlei prachtige beloftes de enige slimheid een bezuiniging is: de meteropnemer is afgeschaft. Oke, met je kunt online je meterstand bekijken, maar daar houden de voordelen voor de klant dan ook op. Ook de 'slimme' steden zullen voornamelijk voordelen voor het stadsbestuur, en (vooral) voor de commerciele uitbaters hebben. De 'klant', of in dit geval de burger mag linksom of rechtsom de (torenhoge) rekening betalen. Via de belastingdienst en met zijn privégegevens. Verwacht vanuit Den Haag geen visie, verwacht van 'de klant' geen bezwaar. We zijn gemakszuchtig en zullen pas gaan piepen als het te laat is.

2 Reacties
matthijs1985
matthijs198530 dec. 2019 - 17:29

En ondertussen kan je energieprovider allerlei gedragsgegevens aflezen, en kunnen criminelen op afstand je meter uitlezen om te bepalen of je thuis bent en of ze bij je zullen inbreken of niet..

adriek
adriek1 jan. 2020 - 10:51

Criminelen kunnen mijn energiemeter niet aflezen en als ze het al zouden kunnen weten ze niet welk adres erbij hoort. Een middagje rondhangen in een wijk levert veel meer en veel betere informatie op over de aan- en afwezigheid van bewoners. Ik maak me rond de inbraakveiligheid van mijn woning pas op de allerlaatste plaats zorgen over de (niet zo) slimme meter.

harmmeijer
harmmeijer30 dec. 2019 - 11:35

“We moeten onze ‘slimme steden’ niet laten inrichten door techbedrijven” Hier past maar één woord: het is een achterhoedegevecht. Dat is het namelijk al jaren. Er is geen houden meer aan. Facebook is het bewijs.

2 Reacties
harmmeijer
harmmeijer30 dec. 2019 - 12:08

En niet te vergeten: Google, Apple en Amazon.

matthijs1985
matthijs198530 dec. 2019 - 17:15

Het voorbeeld van de mislukte 'Toronto Sidewalk', waarbij Google op vergaande manier de publieke infrastructuur wilde privatiseren, maar de bevolking in opstand kwam, laat zien dat dat verzet helpt en het juist nu ontzettend belangrijk is om hier het publieke debat over te voeren. https://www.slideshare.net/Matthijs85/who-controls-our-smart-cities-curiousu-summer-school-twente-university-2019-0816

EmC2
EmC230 dec. 2019 - 11:24

Hahaha... en dan zelf een Facebook account hebben.

Andy JPL
Andy JPL30 dec. 2019 - 10:18

De wetenschap weet misschien wel niet dat de gegevens prima te anonimiseren zijn, maar gelukkig zijn daar ook ICTers voor. Gegevens worden opgeslagen in een database en die is prima te anonimiseren. Dit kan ook geheel automatisch voordat de gegevens uit de database geraadpleegd kunnen worden.

3 Reacties
Peter Later
Peter Later30 dec. 2019 - 16:48

Zo simpel ligt het bij lange na niet. Dus als dat je ICT'ers zijn... zou ik zeggen: je team is aan vervanging toe. Met AI kun je vrij eenvoudig anonieme datasets aan elkaar koppelen en zo met redelijke waarschijnljkheid de data de-anonimiseren. Veel anonimeseringsmaatregelen vallen bovendien ook te "reverse-engineeren". Etc etc.

matthijs1985
matthijs198530 dec. 2019 - 17:21

Hierin ligt een gedeelte van de oplossing. Voorbeeld van privacy by design: gegevens enkel geaggregeerd verwerken en de persoonlijke brongegevens direct weggooien.. Maar wat veel mensen dus vergeten: Meestal overlappen gegevens met een andere verzameling van gegevens. Daarom konden deze wetenschappers in het overgrote deel van de gevallen de identiteit achterhalen van persoonlijke gegevens die door ICT'ers als anoniem werden geschaard https://www.nytimes.com/2019/07/23/health/data-privacy-protection.html (en ik ben zowel wetenschapper als ICT'er, for that matter..)

Andy JPL
Andy JPL31 dec. 2019 - 8:47

@Peter Later en Matthijs85, Ah..... verlicht mij, wat is anonimizeren en hoeveel soorten anonimizering zijn er. En vertel mij meteen even wat mijn team verkeerd doet?

Sam V
Sam V30 dec. 2019 - 10:07

Ik ga een eind mee met dit idee. Er zitten wel twee lastige elementen in: - De bewoners zijn niet één geheel. Ook hier kunnen en zullen de belangen echt anders zijn. Dit betekent dat je toch een orgaan moet hebben dat uiteindelijk beslist. Hierbij zullen altijd mensen teleurgesteld zijn. De vraag is of dat niet hetzelfde is als de huidige situatie. - De gemiddelde bewoner heeft geen idee waar dit over gaat en welke keuzes hij/zij moet maken. Die moet geholpen worden. Niet alleen dat, de bewoners zullen vaak niet zelf aan het bouwen en programmeren gaan. Zowel de oordeelsvorming als de bouw van de slimme stad vergt een hoop hulp van bedrijven. Zelfs al zou het volledig open source kunnen, 99% van de mensen weet nog steeds van niets. De mensen achter de systemen moeten dan wel het vertrouwen krijgen. Op basis waarvan?

3 Reacties
Peter Later
Peter Later30 dec. 2019 - 16:49

Goede en legitieme punten!

matthijs1985
matthijs198530 dec. 2019 - 17:16

Er zijn genoeg methodes om samen bottom-up beslissingen te maken. Ik kan eindeloos doorgaan over verschillende e-democracy methoden, offline burgertoppen en hoe deze elkaar uitstekend kunnen aanvullen. Hier kun je wat inspiratie opdoen: https://idea-synergy.com/portfolio/

adriek
adriek1 jan. 2020 - 10:55

De wetgever uit het eerste zal de gemiddelde burger uit het tweede punt moeten en kunnen helpen. De wetgever zal 'privacy by design' moeten afdwingen. Maar helaas is ook de wetgever niet deskundig en - erger nog - laat zich veelal door bedrijvenlobby adviseren in plaats van door deskundige vertegenwoordigers van 'het volk'.

de Boer2
de Boer230 dec. 2019 - 9:48

De Boer gaat dat allemaal niet lezen, veel te lang. Hij leest enkel de eerste en de laatste delen. En dat leest ie dat mensen samen beslissen over de inzet van technologieën die we samen produceren. Hoe dat, samen? Klopt dat wel? Volgens de Boer zijn er mensen die dat veel beter kunnen dan hemzelf. Die zet zijn idee in de markt en die doet dan zijn werk als een soort zeef. Net als in de letterkunde. Als je na vijftig, zeventig jaar nog gelezen wordt dan hoor je erbij, anders niet. En over gebruik van een technologie wordt gewoon beslist, ook in de gemeenteraad van Amsterdam. Het boren van een tunnel onder de stad was toch een voorbeeld van technologie, waar iedereen zijn hart voor vasthield. Maar het lukte toch en die ligt er nu, dank zij de lokale democratie. Maar daar maakt u met de Piratenpartij geen deel van uit terwijl Mokum mobiel dat wel - en heel kort- deed. Leer van die mevrouw, die ik me enkel herinner van een debatje met minister Hogervorst. gewoon meedoen aan de democratische verkiezingen. En verpak uw boodschap dan in iets minder ingewikkelde lange verhalen, want succes zit em aanvankelijk steeds in consequent gebruik van monosylabisch taalgebruik.

2 Reacties
LaBou
LaBou 30 dec. 2019 - 11:49

"aat dat allemaal niet lezen, veel te lang." En vervolgens komt de boer met een reactie die bijna even lang is. Verwacht die boer van ons dat we dat dan wel gaan lezen? Of mogen we het ook laten bij het begin en het eind?

Katootje2
Katootje230 dec. 2019 - 17:57

Het begin is genoeg.

JasDon
JasDon30 dec. 2019 - 9:19

"waaronder veel asielzoekers" Bedoel je buitenproportioneel veel asielzoekers en kan je dan uitleggen waarom dat zo is? En zo niet, kan je uitleggen waarom je dit specifiek aanhaalt? Ik stem nu en dan op de piratenpartij vanwege de standpunten, maar door dit soort gutmensch opmerkingen bemerk ik een afslag richting identiteitspolitiek. Wellicht een Amsterdams dingetje?

2 Reacties
matthijs1985
matthijs198530 dec. 2019 - 17:24

Die info heb ik uit deze bron https://www.vice.com/nl/article/8xzydz/gezichtsherkenning-op-de-nederlandse-straten-moeten-we-dat-willen (kon je ook al op doorklikken via het linkje achter '1,3 miljoen gezichten'

Katootje2
Katootje230 dec. 2019 - 17:55

Dat is schrikken: een PVV-er die dreigt dat hij op het Forum gaat stemmen.

D.vanderKeur
D.vanderKeur30 dec. 2019 - 8:03

Er valt nog prima anoniem te leven hoor in Nederland, ik heb geen smartphone, ik heb drie voertuigen met alleen een kenteken aan de achterkant, ik woon niet waar ik woon, ik internet op iemand anders zijn aansluiting, het gaat de overheid namelijk helemaal niets aan waar ik ga of sta en wat ik doe en zeg in mijn leven.

2 Reacties
matthijs1985
matthijs198530 dec. 2019 - 17:27

Nou, makkelijk.. Je kenteken wordt in Nederland juist aan de achterkant geflists. En maak je wel eens gebruik van het OV? Verberg je je gezicht overal waar camera's hangen? Of doe je in ieder geval schmink op om te zorgen dat automatische gezichtsherkenning (voorlopig) nog niet werkt? Heb je online accounts? (Blijkbaar wel, want anders zou je hier niet posten). Welke allemaal? Wanneer je via je online profielen te volgen bent, maakt het weinig uit op wiens verbinding je zit. En zo kan ik nog wel even doorgaan.. En als je nu nog steeds denkt dat je prima anoniem leeft. Vind je dat anderen ook zoveel moeite zouden moeten doen om anoniem te leven?

Katootje2
Katootje230 dec. 2019 - 17:53

NoFlies vertoont verdacht gedrag.