Sfeerfoto van BNNVARA
BNNVARA

BNNVARA

Vóór vooruitgang, vrijheid en verandering

We denken dat het beter kan: open, gelijkwaardig en rechtvaardig. Dit bereiken we niet alleen, dus sluit jij je aan?

VOLG ONS

Wat mag wel en niet op Facebook?

26 mei 2019
  •  
leestijd 3 minuten
social-network-76532_640
Wat doet een content moderator bij Facebook? En kan kunstmatige intelligentie niet de ergste bagger verwijderen? Een ervaringsverhaal uit eerste hand.
Acht maanden hield hij het werk vol. Toen trok hij het niet meer.
Officieel heette de baan: ‘Backoffice content moderator van een groot sociaal netwerk.’
Toen Sjarrel de Charon erover googlede, kwam hij erachter dat hij in deze functie posts zou beoordelen voor een sociaal netwerk – hij wist toen nog niet dat dat bedrijf Facebook was.
Beschaafde landen
Een van de vragen was of hij een beetje tegen heftige beelden kon. Sjarrel had met vluchtelingen en asielzoekers gewerkt dus hij dacht: ik kan wel tegen een stootje. En daarnaast: Nederland en Vlaanderen, de landen die hij zou modereren, zijn toch welvarende en beschaafde landen? Het zou wel meevallen.
Binnen vijf minuten was Sjrarrel aangenomen.
Op de eerste dag van een training van twee weken kwam Sjarrel erachter dat Facebook zijn werkgever was. ‘Voordat je gaat werken, krijg je twee weken betaalde training,’ legt hij uit aan Felix Meurders in Spijkers met Koppen . ‘Op de eerste dag van de training wordt je dat verteld. “Maar je mag er met niemand over praten. Wat je hier te zien en te horen krijgt, blijft binnenskamers. Je praat er niet over met je vriend of vriendin, niet met je familie. Met niemand.”
Hoe zagen zijn dagen ná de training eruit? ‘Je krijgt een gerapporteerde post (een post die door andere Facebookgebruikers als ontoelaatbaar is aangemerkt, red.) op je scherm. Die moet je beoordelen op tekst en beeld. De tekst boven het beeld kan “hahahaha” zijn, of “afschieten, die boot met asielzoekers.” Je moet bij die tekst in combinatie met het beeld het Facebookbeleid volgen: onder welk punt in dat beleid kan ik de post verwijderen? Hatespeech? Pesterijen? Is het naakt? Porno? Terreur? Of je kunt dit onder geen enkel punt verwijderen. Dan negeer je de melding en is het bericht goedaardig.’
Vluchtelingen
Er gelden bij Facebook ook ‘protected catagories’ – beschermde categorieën. ‘Dat zijn bijvoorbeeld nationaliteiten. Je mag niet schrijven: “Alle Nederlanders zijn dom,” want dat is een aanval op een beschermde categorie. “Alle vrouwen moeten hun fiets inleveren,” mag ook niet – ja, ik heb de gekste dingen gezien.’ Er zijn ook quasi-beschermde categrorieën. ‘Daar vallen vluchtelingen, migranten, asielzoekers onder. Tot ongeveer 2016 mocht je over die groep alles zeggen wat je maar wilde. Zelfs oproepen tot geweld werden getolereerd; Facebook wilde het publieke debat en de vrijheid van meningsuiting zo min mogelijk verstoren. Pas toen mensen gingen klagen over dat oproepen tot geweld, hebben ze die quasi protected category ingevoerd. Die mensen zijn veel minder beschermd dan Nederlanders, Belgen of vrouwen.’
Als je deze regels letterlijk neemt, mag je wél schrijven dat alle vrouwelijke buschauffeurs in een inrichting thuis horen, maar niet dat alle vrouwen in een inrichting thuis horen. Vrouwen vallen onder een ‘protected category’, buschauffeurs niet. Zij vallen onder geen enkele categorie, dus mag je daarover van Facebook schrijven wat je wil. ‘Die berichten zijn allemaal goedaardig.’ Zo gaat het dus bij Facebook.
Er waren natuurlijk ook veel gruwelijke beelden. IS-executies. ‘Je hoort die filmpjes helemaal af te kijken, maar ik ken geen enkele content moderator die dat ook doet.’ Aan het begin van 2018 besloot Sjarrel ermee op te houden: kinderporno kwam meer en meer op de schermen van de moderators terecht. ‘Dit was voor mijn geestelijke gezondheid helemaal niet goed.’
Kunstmatige intelligentie
Kan Facebook die posts niet automatisch verwijderen? Er bestaat toch zoiets als kunstmatige intelligentie die erge bagger kan herkennen? ‘Kunstmatige intelligentie herkent niet zo heel veel,’ zegt Sjarrel. ‘Ik kreeg nog steeds heel makkelijk herkenbare beelden van kinderporno. Blootfoto’s, filmpjes. En dat blééf ook maar terugkomen, dus kunstmatige intelligentie is zo intelligent nog niet. Dat gaat nog jaren duren.’