Facebook erkent intern dat het polarisatie en desinformatie aanjaagt

Facebook heeft toegegeven dat het hart van het sociale netwerk de verspreiding van desinformatie stimuleert en polarisatie aanjaagt. Dat blijkt uit een intern document van het bedrijf dat door de New York Times is onthuld. Ook wordt duidelijk dat Facebook er voor terugdeinst de invloed van uiterst rechtse nieuwsmedia te beperken.

In een interne memo uit 2019 stelt het bedrijf dat de mechanismen die aan de basis liggen van het netwerk er toe leiden dat haatzaaierij en desinformatie almaar toenemen. Basisfuncties van het netwerk zijn “niet neutraal”, constateert Facebook zelf. “We hebben ook overtuigend bewijs dat onze basismechanismen, zoals aanbevelingen en het optimaliseren van betrokkenheid, een aanzienlijk deel vormen van waarom dit soort taal floreert op het platform.”

Andere nieuwsmedia onthulden maandag dat Facebook weet dat het aanzetten tot haat en desinformatie vooral speelt in het niet-Engelstalige deel van het netwerk. De moderatie van het netwerk is onderbezet als het gaat om andere talen dan Engels. In Afghanistan bijvoorbeeld, een land dat verscheurd wordt door gewapende conflicten, is de software van Facebook slechts in staat 0,2 procent van het schadelijke materiaal te identificeren. De rest moet met de hand gecontroleerd worden en daar heeft het bedrijf te weinig medewerkers voor in dienst die de bewuste talen machtig zijn.

Omdat Apple ongerust was dat Facebook en Instagram gebruikt werden door mensenhandelaren dreigde de computergigant twee jaar geleden de betreffende apps uit de App-store te verwijderen. Pas nadat Facebook gedetailleerd duidelijk maakte hoe het probleem bestreden werd, verdween dat dreigement van tafel.

Medewerkers van Facebook ergeren zich dood aan het eigen bedrijf dat extreem kapitaalkrachtig is maar te weinig middelen vrijmaakt om de toxische werking van de producten te bestrijden. Na de aanval op het Capitool schreef een medewerker “Wij zijn FB, we zijn niet een of andere naïeve startup. Met de ongekende middelen waarover we beschikken zouden we het beter moeten doen.”

Ook is uit de documenten duidelijk geworden dat Facebook zwicht voor politieke macht. Posts van politieke figuren werden ongemoeid gelaten, ook als die in strijd waren met eigen richtlijnen. Beslissingen om bijvoorbeeld uiterst rechtste postings te verwijderen werden vaak teruggedraaid uit angst voor wraakacties. “In de VS ziet het er naar uit dat bijna al het terugdraaien alleen betrekking heeft op conservatieve uitgevers”, stelt een document dat daarmee doelt op onder meer de ultrarechtse site Breitbart.

Facebook zegt in een reactie dat de berichtgeving niet klopt en dat het 40.000 mensen aan het werk heeft om het netwerk veilig te houden, aldus The Guardian.