Wereldwijd zijn er tienduizenden contentmoderatoren voor sociale media werkzaam. Ze worden slecht betaald en door de extreme beelden die ze te zien krijgen, is het werk psychisch zwaar. Daniel Motaung is een van hen. Hij liep een posttraumatische stresstoornis op terwijl hij in Kenia werkte voor Facebook.
‘We zijn net mijnwerkers die zonder veiligheidsuitrusting een instortende schacht worden ingestuurd,’ zegt Mukisa Akello [de namen in dit artikel zijn aangepast]. Hij heeft een van de meest bedenkelijke banen in de technologie-industrie: contentmoderator. Wereldwijd zijn er tienduizenden contentmoderatoren werkzaam. Ze houden socialemediaplatforms vrij van geweld, haat en opruiing. Daarvoor moeten ze elke dag honderden berichten doorspitten, de ene extreme post na het andere. Ze zien executies, zelfmoorden, kindermisbruik, oorlogsmisdaden, seksueel geweld en dierenmishandeling voorbijkomen. De berichten zijn zo onmenselijk en wreed, zo moeilijk te verdragen, dat het werk zijn sporen nalaat. Het is een kantoorbaan met fysieke gevolgen.
Daniel Motaung stapt in 2019 op het vliegtuig van Zuid-Afrika naar Kenia. Hij wil aan een nieuwe levensfase beginnen – als contentmoderator. Op papier klinkt de baan goed. Daniel denkt dat het gewoon administratief werk op de computer zal zijn, een klassieke kantoorbaan. Tijdens zijn studie heeft hij geleerd hoe hij met databases en onlinedocumenten moet werken. Eindelijk zal hij op eigen benen staan en ontsnappen aan de armoede in zijn geboortedorp.
Na een paar dagen training begint zijn eerste werkdag. Hij zit in Nairobi, in een kantoor met airconditioning. Wat hij nog niet weet: deze dag zal zijn leven veranderen. De video die hij ziet is binnen een oogwenk weer voorbij, maar zal hem tot in zijn diepste dromen blijven achtervolgen. Het is een video van een executie. Een man wordt voor de camera onthoofd. Het is een korte video, maar genoeg om Daniel Motaung een posttraumatische stressstoornis te bezorgen. Tot op de dag van vandaag, vijf jaar later, worstelt hij met de gevolgen. Hij wordt geplaagd door nachtmerries, flashbacks en rusteloosheid. De zes maanden die David als contentmoderator doorbracht, hebben hem gebroken. Hij woont weer in zijn dorp op het Zuid-Afrikaanse platteland, werkloos en psychisch ziek.
In stilte
Contentmoderatoren zoals Daniel hebben jarenlang in stilte gewerkt. Bijna niemand wist van het bestaan van dit werk af, laat staan van de precaire omstandigheden waaronder het plaatsvindt. Time Magazine noemt de Keniaanse kantoren waar de contentmoderatoren werken de Afrikaanse sweatshops van Facebook. Je vindt deze sweatshops over de hele wereld: in de Filippijnen, Venezuela, India, de Verenigde Staten en vele andere landen. Een standaardwerkdag wordt gekenmerkt door toezicht, tijdsdruk en uitbuiting. Jarenlang zijn de arbeidsomstandigheden stilgehouden, maar sinds kort komen er steeds meer contentmoderatoren in opstand tegen hun werkgevers.
Daniel Motaung is een van de eersten die zich, net als zijn collega’s, hard begon te maken voor fatsoenlijke arbeidsomstandigheden. Het is een strijd van David tegen Goliath: de bedrijven waar ze tegenover staan zijn haast onoverwinnelijk. Ze behoren tot de rijkste bedrijven ter wereld. Denk aan Meta, Bytedance, Google en Twitter. Iedereen kent de producten die ze leveren en de socialemediaplatforms zoals Instagram, Facebook en TikTok. Maar niemand kent de gezichten van de contentmoderatoren die de platforms op de achtergrond draaiend houden. Als ze in opstand komen, worden ze bestraft of ontslagen. Zo werd Daniel Motaung ontslagen toen hij een vakbond wilde oprichten.
De techbedrijven proberen het werk zo onzichtbaar mogelijk te maken. Ze besteden het uit aan derden. Daniel en zijn collega’s modereren weliswaar voor een aantal van de grootste platforms, maar officieel werken ze voor onbekende outsourcingbedrijven. Dat de banen worden uitbesteed is een van de redenen dat de sector zo ondoorzichtig is. Het is onmogelijk om bij te houden hoeveel moderatoren er wereldwijd werkzaam zijn. Techbedrijven willen niks te maken hebben met het stressvolle werk en de slechte werkomstandigheden; ze willen hun imago behouden en de reputatie van hun merk niet aantasten.
Doordat het werk wordt uitbesteed, dragen de bedrijven geen verantwoordelijkheid meer voor de contentmoderatie. De contentmoderatoren moeten strikte geheimhoudingsovereenkomsten ondertekenen, zodat er zo weinig mogelijk naar buiten komt over deze praktijken en het precaire werk. De overeenkomsten zijn overdreven streng en verbieden zelfs dat moderatoren met hun collega’s over hun werkomstandigheden praten. Zo wordt een cultuur van angst en geheimhouding gecreëerd.
Het belang van het werk kan niet worden onderschat: zonder moderatoren zouden er geen socialemediaplatforms zijn
Ook in Duitsland zijn er contentmoderatoren. Op 9 maart van dit jaar sta ik in de lobby van de vakbond Verdi in Berlijn. Ik werk met mijn organisatie SUPERRR Lab al weken naar deze dag toe. Straks staan er vijftig contentmoderatoren van verschillende bedrijven in de entreehal. Ze komen in het vakbondsgebouw bijeen om ’s werelds eerste bijeenkomst van contentmoderatoren, de ‘Content Moderator Summit’, bij te wonen. Het was niet gemakkelijk om ze te vinden: de outsourcingbedrijven waarvoor ze werken gebruiken voor de functie niet het begrip contentmoderator, maar hanteren termen als ‘systeemanalist’ of ‘medewerker klantenservice’. Een woordkeuze die verhult waar het werkelijk om gaat.
Onze partner Foxglove, een Britse non-profitorganisatie in Londen, benaderde de moderatoren via LinkedIn. Er is veel belangstelling voor de bijeenkomst; veel van de aanwezigen willen zich met collega’s van andere bedrijven organiseren en samen strijden voor betere arbeidsomstandigheden. Terwijl ik in de lobby sta, probeer ik me voor te stellen om wat voor mensen het gaat. Hoe zien ze eruit? Waar komen ze vandaan? Wat is hun professionele achtergrond? Voordat ik me een beeld heb kunnen vormen, komen de eersten al binnen. Ze zijn tussen de vijfentwintig en veertig jaar oud, spreken Engels en lijken op mij. Velen hebben een universitair diploma, sommigen zijn aan het promoveren. Ze komen niet overeen met het beeld van een uitgebuite ‘klikwerker’. Ze zijn niet wanhopig en lusteloos, maar dapper en strijdlustig.
De contentmoderatoren vertellen over de extreme psychologische tol die hun werk eist. Ze zien per dag tussen de tweehonderd en duizend berichten, waarvan sommige extreem gewelddadig zijn. Het werk is ingedeeld in drie shifts: sommige mensen werken overdag, sommige ’s nachts. De kantoren zijn steriel en de werkplek wordt bewaakt. Het systeem waarmee ze werken registreert elke klik, elke beweging die de cursor maakt en houdt bij hoelang de moderatoren erover doen om een bericht te beoordelen. Idealiter duurt dat slechts een paar seconden. Alleen de snelste en efficiëntste moderatoren mogen zelf kiezen welke diensten ze werken. Nacht- en weekenddiensten worden beter betaald.
Het vaste loon bedraagt 14,40 euro per uur, iets boven het minimumloon. Het is een mager bedrag voor een veeleisende baan die veel culturele, politieke en taalkundige kennis vereist. Het belang van het werk kan niet worden onderschat: zonder moderatoren zouden er geen socialemediaplatforms zijn. Veel van de moderatoren die ik ontmoet zijn migrant. In Duitsland wordt niet alleen de Duitstalige markt gemodereerd, ook buitenlandse markten komen aan bod, waaronder berichten in het Arabisch, Perzisch en Turks. Eén moderator vertelt me dat ze naar Duitsland is gekomen om te studeren. Dit werk begon als een parttimebaan, maar sinds ze is afgestudeerd doet ze het fulltime. Ze wil ermee stoppen, maar haar verblijfsvergunning hangt ervan af. Zulke verhalen hoor ik veel.
De werkgever biedt geen goede, psychologische ondersteuning door externe deskundigen aan, maar iets wat ‘welzijnsbegeleiding’ wordt genoemd. De moderatoren vinden het nutteloos en zelfs bespottelijk. De sessies zijn er volgens hen alleen maar voor de vorm. De moderatoren zijn getraumatiseerd door wat ze dagelijks zien, maar krijgen van hun coaches enkel het advies om ademhalingsoefeningen te doen of een wandeling te maken. Bovendien vertrouwen de moderatoren hun coaches niet: ze zijn bang dat ze bespioneerd worden en dat vertrouwelijke informatie wordt doorgespeeld naar hun werkgever. Toegang tot deskundige psychologische begeleiding en minder tijdsdruk zijn noodzakelijke maatregelen om het werk dragelijk te maken, zo zeggen veel van de mensen die ik spreek.
‘Beterschap’
Om verandering te bewerkstelligen hebben de moderatoren een manifest opgesteld met acht eisen voor betere arbeidsomstandigheden. Naast psychologische begeleiding en een gepast salaris eisen ze dat er een einde komt aan de cultuur van intimidatie en outsourcing. Techbedrijven moeten zelf verantwoordelijkheid nemen voor het werk en zorgen voor betere omstandigheden. Binnen een paar dagen ondertekenen meer dan driehonderd moderatoren in Duitsland het manifest. Half juni wordt het gepresenteerd bij een bijeenkomst van deskundigen in de digitale commissie van de Bondsdag.
Het is de eerste keer dat moderatoren ten overstaan van de leden van de Duitse Bondsdag over hun werkomstandigheden spreken. De anders nogal zakelijke en droge sfeer in de commissie wordt opgeschud door de emotionele betogen van de moderatoren. De hele vergaderzaal luistert geboeid naar de verhalen van de twee gespreksleiders, Daniel Motaung uit Zuid-Afrika en Cengiz Haksöz uit Duitsland. Haksöz begint zijn betoog met een citaat uit de Dreigroschenoper van Bertolt Brecht: ‘De mensen in het donker worden niet gezien.’ Hij vertelt dat zijn collega’s elkaar aan het eind van de werkdag geen ‘fijne avond’, maar ‘beterschap’ wensen. Ze hebben hun vrije avond nodig om bij te komen van de stress en spanning van het werk.
De parlementsleden zijn erg geïnteresseerd en stellen veel vragen. Eén onderwerp komt steeds weer terug: kunstmatige intelligentie. Ze vragen of kunstmatige intelligentie in de toekomst het werk van moderatoren zal kunnen vervangen. Het is een vraag die techbedrijven graag krijgen: zo kunnen ze speculeren over de toekomst, in plaats van zich te bekommeren om de omstandigheden waaronder tienduizenden mensen nu werken.
Vooralsnog is kunstmatige intelligentie nog lang niet ontwikkeld genoeg om de complexe taak van een contentmoderator over te nemen. Het is ingewikkeld werk: de beoordeling van veel van de berichten moet genuanceerd gebeuren. Denk bijvoorbeeld aan satire of aan politiek commentaar. Geautomatiseerde systemen staan erom bekend dat ze videocontent en andere talen dan Engels slecht kunnen beoordelen. Ze zijn dus nog niet geschikt als alternatief voor menselijke moderatoren. Haksöz zegt dat de focus moet liggen op de ondersteuning van mensen nu, in plaats op van speculatie over hun toekomstige vervanging. Aan het einde van de vergadering verzekert Tabea Rößner, de voorzitter van de commissie, dat ze aan de slag gaan om de omstandigheden te verbeteren.
Als ze zich publiekelijk uitspreken over hun arbeidsomstandigheden, zetten ze hun baan op het spel
Haksöz ondervindt onmiddellijk gevolgen van zijn dappere optreden. Slechts een paar dagen na de hoorzitting wordt hij ontslagen door zijn werkgever. Hij mag het bedrijfsgebouw niet meer in. Zo wordt de angstcultuur weer eens bevestigd. Met het ontslag geeft de bedrijfsleiding een duidelijk signaal af aan de werknemers: als ze zich publiekelijk uitspreken over hun arbeidsomstandigheden, zetten ze hun baan op het spel. De werkgever van Haksöz zegt dat hij zijn ‘arbeidsvoorwaarden’ heeft geschonden met zijn uitspraken in de Bondsdag en de media. Maar als burger in een democratie heeft Haksöz het goed recht om over zijn ervaringen te vertellen.
Nu moet hij zijn zaak voor de arbeidsrechter brengen om zijn taken als commissielid voor de komende verkiezingen voor de ondernemingsraad weer te kunnen hervatten. Vakbond Verdi stelt het optreden van de werkgever gelijk aan union busting: daarvan is sprake wanneer werkgevers voorkomen of bemoeilijken dat hun werknemers actief zijn in de vakbond. Haksöz bereidt zich voor op de verkiezingen. Ondertussen zegt zijn werkgever bij de arbeidsrechtbank af te zullen dwingen dat hij ontslagen wordt. Samengevat: er worden nog meer intimidatietechnieken ingezet om de vakbondsactiviteiten van de moderatoren te verhinderen.
Een functionerende ondernemingsraad is een eerste, kleine stap in de richting van betere werkomstandigheden. Maar er moet nog veel meer veranderen om de arbeidsomstandigheden wereldwijd te verbeteren. Zo moet er striktere regelgeving komen voor techbedrijven. Zij zijn verantwoordelijk voor de uitbuiting en dus ook voor de schade. Begin juni deed een arbeidsrechtbank in Nairobi een voorlopige uitspraak waarin precies dat werd vastgelegd. Volgens de rechtbank is Meta de belangrijkste werkgever van de contentmoderatoren van Facebook in Kenia. Als je resultaten wil boeken, is het belangrijk om het probleem vanuit verschillende oogpunten te bekijken. Wat kan er gedaan worden op nationaal, Europees en mondiaal niveau? In Duitsland is in januari de Lieferkettensorgfaltspflichtengesetz van kracht geworden. Deze wet stelt bedrijven die producten leveren verantwoordelijk voor het naleven van mensenrechten in hun wereldwijde toeleveringsketens. Met een vergelijkbare regeling voor digitale diensten zoals contentmoderatie zou het mogelijk worden om het probleem van uitbuiting bij de wortel aan te pakken.
Tot dat moment zullen moderatoren elke dag blijven afdalen in de mijnschacht van de sociale media om onze gezondheid en democratie te beschermen. Maar ze doen het niet langer in het donker. Ze worden steeds vaker gezien.
Lees ook:
