AI is geen koffiezetapparaat

De discussie over AI in Nederland is gevangen in drie blinde vlekken over de relatie tussen mens en technologie. Daardoor kunnen we het broodnodige gesprek over hoe we de goede kanten van AI versterken en de schaduwzijden minimaliseren, niet voeren. Terwijl we in cirkels ronddraaien gaat de ontwikkeling van AI ongestoord door. Het onderzoek van Investico en De Groene Amsterdammer waaruit blijkt dat in meer dan de helft van de Nederlandse Kamerdebatten AI-teksten te horen waren laat zien wat deze blinde vlekken zijn.

Het artikel laat in de eerste plaats zien dat we achterlopen op technologische ontwikkelingen. In het debat over AI lijkt het soms alsof we te maken hebben met een ontwikkeling die er nog aan komt en waarvan we kunnen kiezen hoe we ermee omgaan. Maar AI doordrenkt, net als PFAS, de maatschappij al. Als we dit hadden willen voorkomen hadden we eerder moeten ingrijpen.

Wat mij betreft is Bernard Stieglers Technics and Time een van de belangrijkste filosofische werken van deze tijd. Stiegler schreef dat techniek sneller evolueert dan de maatschappij. Techniek gooit innovaties over de schutting. Deze innovaties creëren een nieuwe situatie voor de maatschappij — in dit geval volksvertegenwoordigers die AI-teksten uitspreken. Maar we lopen altijd achter. Politiek en wetgeving zijn traag, terwijl de technologische realiteit die ze moet socialiseren steeds sneller verandert. Daarom is een van de grootste uitdagingen hoe we als maatschappij sneller kunnen reflecteren op AI en andere technologische ontwikkelingen.

Wat verder opvalt in het artikel is het contrast tussen wat experts zeggen en wat Kamerleden zelf zeggen. “Dit raakt aan de kern van onze democratie,” zegt een van de experts die in het artikel van De Groene Amsterdammer wordt aangehaald. En dat klopt, want als we inzoomen zien we dat de vorm van de tekst verandert, de retorica en daarmee de overtuigingskracht. De AI-bijdragen bevatten bijvoorbeeld tweemaal zoveel “negatieve parallellismen”, dat wil zeggen, iets beschrijven door het te contrasteren met wat het niet is. Dat is zorgelijk in een tijd waarin polarisatie al een probleem is. Maar dit zijn slechts de voorbeelden die zijn gevonden uit onderzoek dat als doel heeft te detecteren welke teksten met AI zijn geschreven. Dat AI invloed heeft op onze democratie weten we, maar wat de invloed is weten we niet. We verlangen dat kamerleden inzicht geven in de invloed van lobbyisten op hun werk, maar van AI weten we dat niet. Het eerlijke antwoord is dus: AI raakt de kern van democratie, maar hoe weten we niet.

Maar het is dus vooral het contrast dat opvalt tussen een ontwikkeling die de kern van democratie raakt, de blinde vlek van de gebruikers. Onderzoeksjournalisten Van de Ven en Woutersen vroegen Kamerleden die een AI-tekst uitspraken om uitleg. Kamerlid Claassen beschrijft AI als “een handig hulpmiddel” dat eigen ideeën kan verrijken, testen of weerleggen. Kamerlid Belhirch als “heel handig”. Kamerlid Vermeer noemt AI een “heel goede tool” en zegt: “Ja natuurlijk gebruiken wij AI, wij gebruiken ook rekenmachines, mobiele telefoons en zelfs koffiezetapparaten.” Kamerleden onderschatten de invloed van AI omdat ze het zien als een instrument, een hulpmiddel, een ondersteuning. In mijn vorige bijdrage noemde ik al dat drugs een goede metafoor zijn voor AI. Hier hoor je mensen die beweren dat ze met drie biertjes op nog prima kunnen rijden. AI is niet slechts een middel, zoals een koffiezetapparaat of een rekenmachine. Tenzij we ‘middel’ in de context van drugs en medicijnen plaatsen.

De tweede blinde vlek is dus dat we vastzitten in een kunstmatig onderscheid tussen mens en technologie, waarbij de mens de maker of gebruiker is die technologie bewust inzet voor bepaalde doelen. Martin Heidegger schreef al dat techniek geen louter middel is dat de mens voor een doel gebruikt. Technologie vormt ons, het stelt ons in staat om dingen te bereiken die we anders niet zouden bereiken. Dit geldt ook voor rekenmachines, die ik op de middelbare school met een goede reden niet altijd mocht gebruiken omdat ik anders niet zou leren hoofdrekenen. En nog meer geldt het voor taalmachines, aangezien taal en gesprekken het materiaal van het maatschappelijk debat zijn. De Kamerleden die AI gebruiken om hun bijdragen vorm te geven gebruiken niet alleen AI, ze worden er ook door gebruikt.

Over verschillende partijen heen maakt AI bepaalde keuzes, gebruikt metaforen, voegt symmetrie toe die er niet is. Kamerleden leven in de illusie dat hun AI-gebruik een individuele keuze met individuele effecten is. Ze zien niet dat dezelfde ‘partij’ nu invloed heeft op een bijdrage van PRO en een bijdrage van PVV. De Groene Amsterdammer beschrijft een absurde situatie van een commissiedebat over AI en Defensie waarbij vijf commissieleden AI-gegenereerde teksten aan elkaar voorlezen. Waar we denken dat partijen onafhankelijk van elkaar zijn, bepaalt nu AI deels de toon van het debat, als de verschillende partijen dezelfde technologie hebben gebruikt voor hun teksten. AI heeft dus een collectieve invloed op de Tweede Kamer. Welke invloed, dat weten we niet. En in andere situaties — zoals buitenlandse invloed — zou ons dat veel meer zorgen baren. We worden (zelfs als we het zelf niet bewust gebruiken) veel meer beïnvloed door AI dan we beseffen, en hebben daar veel minder controle over dan we denken.

De derde blinde vlek fietst eigenlijk door dit alles heen. Want een van de fundamentele vragen van techniekfilosofie is hoe we techniek moeten zien als het geen louter middel is en dat het sneller evolueert dan de maatschappij. Het begint er denk ik mee AI te zien als een nieuwe omgeving. Deze omgeving is zowel gif als medicijn, en wat de overhand neemt hangt af van de mate waarin wij als samenleving kunnen reflecteren op techniek met de snelheid die ontwikkelingen ons vragen. We hebben, ook in Nederland, gekozen voor een benadering van oneindige groei, waarbij alles steeds sneller en efficiënter moet. Alleen gaan die groei en efficiëntie nu zo snel, dat we worden ingehaald. De menselijke conditie is een technische conditie. Hoe sneller we dit beseffen, hoe sneller we ervoor kunnen zorgen dat AI geen drug voor Kamerleden is, maar iets dat menselijke waarden daadwerkelijk ondersteunt.

Wat kunnen we doen? We moeten spreken over AI in dezelfde termen als over de klimaatcrisis: we zijn al te laat, maar als we snel handelen kunnen we schade beperken. De deadline voor Nederland om een AI-toezichthouder aan te wijzen is al meer dan een jaar verstreken. Het is hoog tijd dat er inzicht in en toezicht komt op de invloed van AI op Nederlandse democratie, en de AI-verwevenheid van Kamerleden lijkt me een goede plek om te beginnen. Maak dus haast met het aannemen van de wet die dit mogelijk maakt, en maak dit expliciet onderdeel van de taak van de toezichthouder. Want we kunnen nog wel meer van dit soort onderzoeksjournalistiek verwachten, waaruit zal blijken dat AI al een tijd in de haarvaten van de samenleving zit.

Het is essentieel dat we techniek in het publieke debat niet langer alleen als een handig hulpmiddel behandelen, maar als een systeem dat co-evolueert met de maatschappij. Een oordeel over of het goed of slecht is dat Kamerleden AI gebruiken helpt ons niet verder. Het is belangrijker dat Kamerleden de rol van AI in de maatschappij begrijpen, of anders gezegd, de maatschappij in de context van AI. Voortbouwend op Stieglers filosofie schrijft Anne Alombert hierover: “Het is niet langer mogelijk om digitale technologieën louter te beschouwen als gereedschap dat we goed of verkeerd kunnen gebruiken; ze vormen eerder onze dagelijkse omgevingen, en deze omgevingen transformeren ons voortdurend." Goede onderzoeksjournalistiek zoals van Van de Ven en Woutersen helpt ons inzicht te krijgen in hoe deze omgevingen ons transformeren, mits we ook de drie blinde vlekken adresseren.

Vertaling citaat Alombert uit Engels door de auteur. Dit artikel verscheen eerder op Substack.