AI verdraait de werkelijkheid in de veehouderij

Dat AI vooroordelen heeft, is bij iedereen wel bekend. De vrouwenorganisatie van de Verenigde Naties (UN Women) waarschuwde deze zomer al voor AI-systemen die ‘oude genderstereotypen reproduceren, online misbruik versterken en vrouwen buitensluiten van de beslissingen die de digitale toekomst bepalen’. Vrouwen worden in tekst en beeld nog altijd voornamelijk geassocieerd met thuis, familie en zorgen voor de kinderen. Mannen daarentegen worden gekoppeld aan bedrijven, carrière en succes.

AI wordt ontwikkeld door een kleine, weinig diverse groep mensen en die blijken niet altijd feitelijk of objectief. Ik was dan ook niet verbaasd dat het bij de veehouderij niet anders is. Ook daar krijg je zelden de meest voorkomende beelden te zien als je vraagt om afbeeldingen van koeien of varkens. De romantische kijk op de boerderij, zoals ook in onze kinderboekjes nog regelmatig voorbijkomt, is hardnekkig. Terwijl 99% van onze varkens zonder staart leeft en in een stal zonder daglicht of buitenlucht op een roostervloer haar leven slijt, toont AI een gezellig roze varkentje met krulstaart in de modder.

Recent internationaal onderzoek laat zien dat dit niet alleen wordt veroorzaakt door de vooroordelen van AI. Het is nog veel erger. ChatGPT is geprogrammeerd om de opdrachten aan het systeem, de prompts, actief te herschrijven. In de technische documentatie van DALL-E 3 (het beeldmodel achter ChatGPT) vond de onderzoeker een intern taalmodel dat de prompts van de gebruiker herschrijft en verrijkt voordat het beeld wordt gemaakt. Gebruikers krijgen daar geen melding van.

Bij een simpele opdracht als ‘een melkveebedrijf in de VS’, toonde elk onderzocht systeem een idyllisch beeld van een boerderij met een grazende koe in een groene, schone omgeving. In werkelijkheid staat in Amerika minder dan 3% van de melkkoeien in de wei. Omdat OpenAI, de eigenaar van ChatGPT, zijn systeemprompt niet openbaar maakt, kunnen de onderzoekers alleen vermoeden dat ontwikkelaars aantrekkelijke beelden voor laten gaan boven accurate. Zelfs als de opdracht verfijnd wordt en AI de vraag krijgt om een realistisch beeld te geven van de melkvee- of varkenshouderij, blijven de dieren in het gegenereerde plaatje buiten lopen. De auteurs van het onderzoek spreken, naar analogie van de ‘male gaze’, van een ‘coded gaze’: de wereldbeelden en blinde vlekken die ontwerpers in systemen inbouwen.

Echter, toen de onderzoekers het herschrijven uitschakelden, toonde 60% van de melkveebeelden koeien binnen, achter metalen hekken en 96% van de varkensbeelden lieten varkens zien die op beton moesten leven. AI weet dus drommels goed hoe het er echt uitziet, maar een verborgen ingebouwde laag verdraait de werkelijkheid.

Hier moest ik aan denken toen ik een oproep van de Productenorganisatie Varkenshouderij (POV) voorbij zag komen. Hun meldpunt ‘foute feiten’ zucht: ‘Word jij ook weleens moe van onjuist reclame- en lesmateriaal over de agrarische sector? Zie je halve waarheden of zelfs leugens voorbijkomen? Meld het bij ons en help mee aan een eerlijker beeld.’

Wat is dan dat eerlijke beeld, vraag ik me af. AI geeft het me het in ieder geval niet. Maar dat zal de POV wel niet bedoelen.