De digitale zielenknijper is niet zo heilzaam als hij lijkt

Vragen of je motivatiebrief toereikend is, een lijst laten opstellen van leuke restaurantjes in de buurt of een familieconflict laten analyseren? Wat het onderwerp ook is: je 'digitale gesprekspartner' geeft je in luttele seconden antwoord. Een handige tool die het leven wat eenvoudiger maakt, of een gevaar voor de menselijke psyche? Want wat als je psychisch in de knoop zit en elke vraag die je stelt indirect een schreeuw om hulp is?

ChatGPT is een meester in het statistisch uitvergroten: het schetst op basis van waarschijnlijkheden een realiteit en wekt tegelijkertijd de schijn een luisterend oor te zijn. De kunstmatige adder onder het gras is onmiskenbaar: het voedt de 'confirmation bias', oftewel de psychologische neiging om vooral informatie te zoeken die jouw bestaande overtuigingen bevestigt. Het verraderlijke karakter zit hem echter in de vorm: het een-op-een-gesprek. Deze setting leent zich namelijk uitstekend voor het gebruik als psychologische zelfhulptool. En zo verschuift de rol van handige adviseur naar digitale zielenknijper. Maar kunnen we onze diepste hersenkronkels hier wel aan toevertrouwen?

Neem een vrouw in mijn omgeving, gediagnosticeerd met schizofrenie. Tijdens een psychose weet zij de weg naar de socialemediaplatformen te vinden. Met behulp van ChatGPT worden haar onsamenhangende gedachten vertaald naar gestructureerde verhalen, die zij vervolgens plaatst op haar socialemediakanalen. Dit valideert haar wanen ogenschijnlijk en schotelt haar een vertekend beeld van de realiteit voor. Hierbij versterkt de 'hallucinerende' AI haar daadwerkelijke hallucinaties. Het heeft ertoe geleid dat zij in een diep isolement zit, het contact met haar familie verslechtert en zij haar grip op de werkelijkheid volledig kwijtraakt.

Het is niet alleen maar kommer en kwel; zo klinken er ook positieve geluiden. Voor veel mensen met een neurodivergent brein is ChatGPT juist een welkom steuntje in de rug. Het structureren van gedachten en het verwoorden van gevoelens wordt als prettig ervaren in een wereld vol drukte en toevalligheden. Het stelt de gebruiker in staat de eigen rol in perspectief te plaatsen en sociale verbanden begrijpelijk te maken. In dit geval verrijkt het gebruik van kunstmatige intelligentie de levenskwaliteit.

Recentelijk lanceerde OpenAI uitgebreide functies voor ouderlijk toezicht voor ChatGPT, specifiek gericht op het veiliger maken van het gebruik voor tieners. Een goede ontwikkeling. Daarentegen zijn de handvatten voor overige kwetsbare doelgroepen, zoals mensen met een niet-acute psychiatrische aandoening, nog niet toereikend, terwijl juist in die gevallen de nood hoog is.

Bij triggers rondom zelfbeschadiging of een zware psychische crisis verwijst het systeem naar hulplijnen. Zijn de signalen minder expliciet, dan worden deze over het hoofd gezien. Een systeem dat subtiele afwijkingen in gedrag registreert en het 'handschrift' van een psychose herkent, zou in theorie uitkomst kunnen bieden. Echter, met het oog op de privacywetgeving lopen developers logischerwijs tegen grenzen aan. Onze gegevens worden beschermd en onze privacy gewaarborgd. Hierdoor is AI niet in staat adequaat te reageren op een verandering in gedrag, zoals een mentale achteruitgang.

De rol die kunstmatige intelligentie speelt in ons leven, en de invulling die wij hieraan geven, valt of staat met de gebruiker en zijn of haar mentale staat. Wat voor de een een steuntje in de rug is, kan voor de ander een ontwrichtende factor zijn. Voornamelijk mensen met psychiatrische klachten vliegen onder de radar en lopen door het gebruik van ChatGPT het risico de grip op de realiteit te verliezen.

Indirect verhoogt dit de werkdruk binnen de GGZ, gaat de mentale gezondheid van deze gebruikers achteruit en eindig je met een groep mensen die steeds moeilijker te behandelen is. De situatie vraagt dan ook om urgent handelen; er moet meer aandacht worden besteed aan het effect van het gebruik van AI op deze kwetsbare doelgroep. Bescherm niet alleen onze gegevens, maar ook de kwetsbare gebruiker achter het scherm.