Joop

Arts ontdekt zelfmoordinstructies in kinderfilms op YouTube

  •  
26-02-2019
  •  
leestijd 2 minuten
  •  
166 keer bekeken
  •  
41909931840_8533b823dc_o

© cc-foto: Brick 101 https://flic.kr/p/26RrmBJ

YouTube, de videoverzameldienst van Google, ligt opnieuw onder vuur. Een kinderarts ontdekte dat in tekenfilms voor kinderen een korte scene is gemonteerd waarin uitgelegd wordt hoe je zelfverminking en zelfdoding moet plegen. De macabere instructie wordt gegeven door een beruchte YouTube-ster met de naam Joji, voorheen opererend onder de naam Filthy Frank, die een reputatie heeft opgebouwd met schokkende video’s. De bewuste kindervideo is inmiddels verwijderd nadat de arts er melding van maakte, maar was ook te zien via de ‘kindveilige’ app YouTube Kids die eerder deze maand ook in Nederland werd gelanceerd. Sindsdien duikt het fragment op in andere op kinderen gerichte tekenfilms.
The Washington Post laat Nadine Kaslow, oud-voorzitter van de American Psychological Association, aan het woord die stelt dat het niet voldoende is dat YouTube de video’s verwijdert. “Kinderen die hier aan blootgesteld zijn, zijn er aan blootgesteld. Ze zouden bericht moeten krijgen waarom dit niet goed is.” Kwetsbare kinderen kunnen als gevolg van de video klachten ontwikkelen of zichzelf iets aandoen, waarschuwt ze.
Het injecteren van kinderfilms met zelfmoordinstructies is een nieuw gruwelijk voorbeeld van hoe het YouTube-bedrijfsmodel – iedereen kan alles verspreiden, niets wordt vooraf gecontroleerd en daar worden advertenties rondverkocht – kinderen blootstelt aan clips van zieke geesten. Eerder werd al duidelijk dat kinderen zaken als moord en seks voorgeschoteld krijgen via het zogeheten ‘algoritme’, de methode waarmee advertentiebedrijven als YouTube trachten de kijker vast te houden. De gewelddadige en anders ongeschikte video’s worden op kinderen gericht door er populaire Disney-figuren als Elsa uit Frozen aan toe te voegen.
Vorige week werd onthuld dat pedofielen het zogeheten algoritme gebruik om in onschuldige video’s met kinderen poses op te sporen die ze seksueel aantrekkelijk vinden en zo aan elkaar door te spelen.
Begin deze maand werd duidelijk dat YouTube tieners video’s voert met instructies voor zelfverminking. Dat gebeurt met het zoeksysteem dat zoektermen automatisch aanvult. Die instructie worden daarnaast ook ‘verpakt’ in andere op het eerste gezicht onschuldig ogende clips.
cc-foto: Brick 101

Meer over:

nieuws
Delen:

Praat mee

onze spelregels.

avatar

Reacties (12)

FransBrinkman
FransBrinkman27 feb. 2019 - 8:49

Screening en censuur is erg lastig. Ik krijg de PSP-poster blote vrouw+koe niet rechtstreeks op Facebook geplaatst. (Het lukt uiteindelijk door met een link, dus indirect, te plaatsten - de poster wordt dan wel zichtbaar.) Noopt tot slimmere controle. Als we aanmoediging of instructie m.b.t. suïcide en automutilatie bij kinderen verwarren met vrijheid van meningsuiting, hebben we voorlopig wel het dieptepunt van beschaving te pakken. Van zichzelf al, en erger nog als de informatie 'verpakt' wordt verstrekt.

HM van der Meulen
HM van der Meulen26 feb. 2019 - 18:31

De campagne om censuur van het internet te legitimeren begint bizarre vormen aan te nemen.

2 Reacties
Tom Meijer
Tom Meijer26 feb. 2019 - 21:20

Alweer een komplot meneer van der Meulen?

HM van der Meulen
HM van der Meulen27 feb. 2019 - 16:03

Nee, ik probeer slechts in het oog te houden welke interesses met bepaalde besluiten zijn gemoeid en hoever mensen bereid zijn te gaan om die waar te nemen. Als ik stel dat de hoeveelheid data die Facebook en Google over mensen verzamelen zorgen baart, stel je me dan nog steeds dezelfde vraag? Het is een klassiek -om niet te zeggen uitgekauwd- verwijt, dat er op gericht is om er voor te zorgen dat mensen niet verder kijken dan hun neus lang is. Het is geen argument, maar slechts een strategie om de lezer aan jouw kant te krijgen. En nee, jij zit dus niet OOK in het complot, je bent slechts gemakzuchtig.

OlavM
OlavM26 feb. 2019 - 14:39

Filthy and sick! Het lijkt me duidelijk dat maatregelen moeten worden getroffen om deze wanstaltige praktijken te dwarsbomen. Youtube dient gereguleerd te worden.

7 Reacties
kweenie2
kweenie226 feb. 2019 - 14:49

Je beseft dat je daarmee pleit voor censuur? En waarom alleen YouTube? Ik neem aan dat je ook Geenstijl/Dumpert zou willen beperken op die manier. Maar tja, iemand zou op elke willekeurige website een video over zelfmutilatie kunnen plaatsen. Dus maar het onmogelijk maken dat mensen nog video's op internet plaatsen zonder dat een autoriteit met de bevoegdheid om te censureren daarnaar heeft gekeken? Maar tja, iemand zou ook gewoon een epistel kunnen schrijven hoe je dat moet doen. Ook censureren? Misschien kunnen we China vragen hoe ze dat aanpakken. Niet dat ik dit verder wenselijke praktijken vind, en het is een walgelijk individu die het plaatst, maar besef goed de consequenties van waarvoor je pleit. Het kan namelijk ook gebruikt worden om legitieme kritiek te censureren. Wat doe je als een (rechtse) regering nieuws over bijv. de massale insectensterfte gaat censureren omdat het 'nepnieuws' zou zijn? De tools die je ontwikkelt om de uitwassen uit dit artikel te bestrijden zijn voor alles te gebruiken...

OlavM
OlavM26 feb. 2019 - 19:04

@ kweenie: [Je beseft dat je daarmee pleit voor censuur? En waarom alleen YouTube?] Onzin natuurlijk. Het gaat hier nu eenmaal over Youtube. Dat is de reden dat ik het hier expliciet noem. Maar mutatis mutandis geldt hetzelfde ook voor andere ("sociale") media. Ik pleit niet voor censuur, maar wel voor "verantwoordelijkheid volgens de wet", zoals dat ook in de Nederlandse Grondwet staat. Dit houdt een wettelijk geregelde beperking in van de vrijheid van meningsuiting, zoals die overigens ook in het Europese Verdrag van de Rechten van de Mens staat vermeld. Zelfverminkings- en zelfmoordinstructies gericht aan kinderen vallen m.i. onder aanzetten tot geweld en aantasting van de integriteit van het lichaam, en zijn in strijd met het VN-Verdrag over de Rechten van het Kind. Hieruit citeer ik: “Artikel 17: Toegang tot informatie De Staten die partij zijn, erkennen de belangrijke functie van de massamedia en waarborgen dat het kind toegang heeft tot informatie en materiaal uit een verscheidenheid van nationale en internationale bronnen, in het bijzonder informatie en materiaal gericht op het bevorderen van zijn of haar sociale, psychische en morele welzijn en zijn of haar lichamelijke en geestelijke gezondheid. Hiertoe dienen de Staten die partij zijn:………………………………. e. de ontwikkeling aan te moedigen van passende richtlijnen voor de bescherming van het kind tegen informatie en materiaal die schadelijk zijn voor zijn of haar welzijn,…..” Dit allemaal heeft dus totaal niets te maken net "legitieme kritiek". Als jij een dergelijk onderscheid niet kunt maken is het droevig met je gesteld.

kweenie2
kweenie226 feb. 2019 - 21:19

Het gaat er niet om of er een verschil is tussen legitieme kritiek en dit soort wanstaltige content. Het gaat erom dat als je Youtube effectief wil reguleren (effectiever dan nu) dan moet je een volledige screening van alle content gaan doen voordat de content online komt. Dat is censuur. Heel simpel. Als je eenmaal die regelgeving en de instrumenten daarvoor hebt geinstalleerd, gaat er het risico ontstaan van 'mission creep'. Dat hoeft helemaal niet in Nederland te zijn. Dat kan ook in Turkije door Erdogan. Dat kan ook in Hongarije door Orban. Of denk je dat die niet geinteresseerd zijn in methoden om Youtube aan banden te leggen? Als wij vooraf een controle kunnen uitvoeren op Youtube content, dan kunnen zij dat ook eisen. En niet alleen bij Youtube. En de grote platforms kunnen dat niet weigeren, want ze willen in die markten aanwezig zijn (meer zo bij Turkije dan bij Hongarije natuurlijk). Je ziet toch wat er gebeurt, of ben je blind? Apple ligt al onder vuur vanwege die app waarmee Saudi-Arabische neanderthalers hun vrouw kunnen volgen zodat ze niet het land uit kan vluchten. Elke stap die wij zetten, maakt het die landen makkelijker om een volgende stap te zetten. En waarmee ik niet noodzakelijkerwijs wil zeggen dat we niks moeten doen. Maar laten we alsjeblieft niet denken dat wij dit soort beleid in een nationaal of Europees vacuum maken. Dit kan internationaal consequenties hebben die we nu nog nauwelijks in beeld hebben. Dus graag eerst even zorgvuldig nadenken voordat we in het wilde weg gaan censureren.

OlavM
OlavM26 feb. 2019 - 23:28

@ kweenie: Nee, dan snap je niet het verschil tussen preventieve censuur en beoordeling achteraf. Het gaat natuurlijk om het laatste: verwijdering van onduldbare content. De door mij genoemde verdrags- en grondwettelijke "verantwoordelijkheid volgens de wet" houdt in dat formeel-wettelijk beperkingen kunnen worden gesteld aan de vrijheid van meningsuiting (onder bepaalde voorwaarden, w.o.: met het oog op limitatief genoemde maatschappelijke belangen). Zo zijn van oudsher belediging, smaad en laster strafbaar, evenals meer recentelijk belediging en/of discriminatie van groepen mensen wegens o.a. hun ras, sekse, seksualiteit en godsdienst, evenals het aanzetten tot haat en/of geweld tegen hen. En dat is maar goed ook. Dit werkt altijd achteraf, en houdt dus geen preventieve censuur in. "Volledige screening van alle content voordat die online komt" lijkt me trouwens sowieso onmogelijk.

OlavM
OlavM26 feb. 2019 - 23:31

Misschien, zie ik nu, is de door mij gebruikte term "dwarsbomen" misleidend. Ik bedoel: paal en perk eraan stellen. En dat kan door verwijdering achteraf.

EricDonkaew
EricDonkaew27 feb. 2019 - 9:28

@OlavM ------------------------------- Akkoord, ik ben gerustgesteld.

kweenie2
kweenie227 feb. 2019 - 10:08

Ok, achteraf is wat anders dan censuur. Dan begrijpen we elkaar beter, ik ging ervan uit dat je vooraf wilde screenen. Maar je weet wel dat dat al gebeurt? YouTube verwijdert al veel, de vraag is hoe je dat nog effectiever kunt doen dan ze nu al doen. Ze hebben nu al mensen die door zoveel mogelijk geflagde content heengaan en daar een soort PTSS aan overhouden, aan alle rotzooi die ze voorbij zien komen. Maar het blijft moeilijk. Hoe wil je dit effectiever doen, wetende dat de daders altijd actief op zoek zullen zijn naar mogelijkheden om het te omzeilen?