Elon Musks Grok produceerde 'elke 41 seconden een seksueel getint beeld van een minderjarige'

Elon Musk's AI-speeltje Grok heeft in slechts elf dagen tijd naar schatting drie miljoen seksueel grensoverschrijdende afbeeldingen geproduceerd, waaronder ongeveer 23.000 die vermoedelijk kinderen tonen. Dat blijkt uit onderzoek van het Center for Countering Digital Hate (CCDH). De tool, die eind december werd gelanceerd voor betalende gebruikers van extreemrechts haatplatform X, bleek al snel mensen in staat te stellen foto's van vreemden en beroemdheden te misbruiken voor digitale aanranding.

Volgens het onderzoek produceerde Grok op het hoogtepunt, 2 januari, "bijna 200.000 geseksualiseerde beelden op één dag", zo meldt The Guardian. De onderzoekers schatten dat elke 41 seconden een seksueel getint beeld van een minderjarige werd gemaakt. "Grok werd een industriële machine voor de productie van seksueel misbruikmateriaal," aldus Imran Ahmed van CCDH. Hij wijst erop dat Musk de tool bleef promoten terwijl het misbruik al bekend was, en stelt dat techbedrijven profiteren van controverse en verontwaardiging zonder dat er wettelijke minimumnormen zijn.