'Brede coalitie' onderzoekt mogelijk verbod op Elon Musks wraak- en kinderporno-app Grok

Een "brede coalitie van het Openbaar Ministerie, politiek en toezichthouders" zegt aan plannen te werken om de Elon Musks AI-app Grok Nederland tegen te gaan. Grok, geïntegreerd in extreemrechts haatplatform X, was al controversieel vanwege het vervaardigen van op X populaire nazi-content, maar de laatste tijd vooral populair bij extreme droeftoeters voor het vervaardigen van kinder- en wraakporno en het vervaardigen van (bijna) naaktfoto's van bijvoorbeeld beroemdheden en politici. Demissionair justitieminister Foort van Oosten (VVD) is in overleg met het OM en instanties zoals de Autoriteit Persoonsgegevens over een mogelijk verbod, zo meldt het AD, al waarschuwt hij dat er geen snelle oplossing is. Het OM onderzoekt actief welke juridische mogelijkheden er zijn om slachtoffers te beschermen.

Hoewel het team achter Grok donderdag voor de zoveelste keer zei het misbruik te stoppen door nieuwe maatregelen door te voeren, blijkt uit tests dat deze blokkades niet werken. Vermoedelijk omdat eigenaar Elon Musk zich zelf enorm lijkt te vermaken met de digitale aanrandingen en er niet van gediend is dat iemand hem vertelt dat hij iets niet mag. Het is dan ook nog steeds kinderlijk eenvoudig om ongewenst seksuele maar ook gewelddadige fake-beelden te genereren.

De politie stelt dat apps zonder ander doel dan mensen schaden geen plek in appstores zouden moeten hebben. In het Verenigd Koninkrijk gingen eerder al stemmen op om Musks AI-speeltje compleet te verbieden. Helen Hayes, voorzitter van de Onderwijscommissie in het Britse parlement, zei daar eerder deze week over:

“Ik en mijn collega-commissieleden zijn zeer gealarmeerd door berichten dat de Grok-chatbot wordt gebruikt om illegale, exploitatieve en misbruikende afbeeldingen van vrouwen en zelfs kinderen te creëren. [...] Ik dring er bij de toezichthouders op aan om snel en daadkrachtig op te treden, gezien het snelle tempo waarin technologie zich kan ontwikkelen, en om alle beschikbare middelen in te zetten om ervoor te zorgen dat geen enkel platform dat in het Verenigd Koninkrijk actief is, uitbuiting en misbruik tolereert.”