Wereldwijd zijn er tienduizenden contentmoderatoren voor sociale media werkzaam. Ze worden slecht betaald en door de extreme beelden die ze te zien krijgen, is het werk psychisch zwaar. Daniel Motaung is een van hen. Hij liep een posttraumatische stresstoornis op terwijl hij in Kenia werkte voor Facebook.
‘We zijn net mijnwerkers die zonder veiligheidsuitrusting een instortende schacht worden ingestuurd,’ zegt Mukisa Akello [de namen in dit artikel zijn aangepast]. Hij heeft een van de meest bedenkelijke banen in de technologie-industrie: contentmoderator. Wereldwijd zijn er tienduizenden contentmoderatoren werkzaam. Ze houden socialemediaplatforms vrij van geweld, haat en opruiing. Daarvoor moeten ze elke dag honderden berichten doorspitten, de ene extreme post na het andere. Ze zien executies, zelfmoorden, kindermisbruik, oorlogsmisdaden, seksueel geweld en dierenmishandeling voorbijkomen. De berichten zijn zo onmenselijk en wreed, zo moeilijk te verdragen, dat het werk zijn sporen nalaat. Het is een kantoorbaan met fysieke gevolgen.
Daniel Motaung stapt in 2019 op het vliegtuig van Zuid-Afrika naar Kenia. Hij wil aan een nieuwe levensfase beginnen – als contentmoderator. Op papier klinkt de baan goed. Daniel denkt dat het gewoon administratief werk op de computer zal zijn, een klassieke kantoorbaan. Tijdens zijn studie heeft hij geleerd hoe hij met databases en onlinedocumenten moet werken. Eindelijk zal hij op eigen benen staan en ontsnappen aan de armoede in zijn geboortedorp.
Na een paar dagen training begint zijn eerste werkdag. Hij zit in Nairobi, in een kantoor met airconditioning. Wat hij nog niet weet: deze dag zal zijn leven veranderen. De video die hij ziet is binnen een oogwenk weer voorbij, maar zal hem tot in zijn diepste dromen blijven achtervolgen. Het is een video van een executie. Een man wordt voor de camera onthoofd. Het is een korte video, maar genoeg om Daniel Motaung een posttraumatische stressstoornis te bezorgen. Tot op de dag van vandaag, vijf jaar later, worstelt hij met de gevolgen. Hij wordt geplaagd door nachtmerries, flashbacks en rusteloosheid. De zes maanden die David als contentmoderator doorbracht, hebben hem gebroken. Hij woont weer in zijn dorp op het Zuid-Afrikaanse platteland, werkloos en psychisch ziek.
In stilte
Contentmoderatoren zoals Daniel hebben jarenlang in stilte gewerkt. Bijna niemand wist van het bestaan van dit werk af, laat staan van de precaire omstandigheden waaronder het plaatsvindt. Time Magazine noemt de Keniaanse kantoren waar de contentmoderatoren werken de Afrikaanse sweatshops van Facebook. Je vindt deze sweatshops over de hele wereld: in de Filippijnen, Venezuela, India, de Verenigde Staten en vele andere landen. Een standaardwerkdag wordt gekenmerkt door toezicht, tijdsdruk en uitbuiting. Jarenlang zijn de arbeidsomstandigheden stilgehouden, maar sinds kort komen er steeds meer contentmoderatoren in opstand tegen hun werkgevers.
Daniel Motaung is een van de eersten die zich, net als zijn collega’s, hard begon te maken voor fatsoenlijke arbeidsomstandigheden. Het is een strijd van David tegen Goliath: de bedrijven waar ze tegenover staan zijn haast onoverwinnelijk. Ze behoren tot de rijkste bedrijven ter wereld. Denk aan Meta, Bytedance, Google en Twitter. Iedereen kent de producten die ze leveren en de socialemediaplatforms zoals Instagram, Facebook en TikTok. Maar niemand kent de gezichten van de contentmoderatoren die de platforms op de achtergrond draaiend houden. Als ze in opstand komen, worden ze bestraft of ontslagen. Zo werd Daniel Motaung ontslagen toen hij een vakbond wilde oprichten.
De techbedrijven proberen het werk zo onzichtbaar mogelijk te maken. Ze besteden het uit aan derden. Daniel en zijn collega’s modereren weliswaar voor een aantal van de grootste platforms, maar officieel werken ze voor onbekende outsourcingbedrijven. Dat de banen worden uitbesteed is een van de redenen dat de sector zo ondoorzichtig is. Het is onmogelijk om bij te houden hoeveel moderatoren er wereldwijd werkzaam zijn. Techbedrijven willen niks te maken hebben met het stressvolle werk en de slechte werkomstandigheden; ze willen hun imago behouden en de reputatie van hun merk niet aantasten.
Doordat het werk wordt uitbesteed, dragen de bedrijven geen verantwoordelijkheid meer voor de contentmoderatie. De contentmoderatoren moeten strikte geheimhoudingsovereenkomsten ondertekenen, zodat er zo weinig mogelijk naar buiten komt over deze praktijken en het precaire werk. De overeenkomsten zijn overdreven streng en verbieden zelfs dat moderatoren met hun collega’s over hun werkomstandigheden praten. Zo wordt een cultuur van angst en geheimhouding gecreëerd.
Het belang van het werk kan niet worden onderschat: zonder moderatoren zouden er geen socialemediaplatforms zijn
Ook in Duitsland zijn er contentmoderatoren. Op 9 maart van dit jaar sta ik in de lobby van de vakbond Verdi in Berlijn. Ik werk met mijn organisatie SUPERRR Lab al weken naar deze dag toe. Straks staan er vijftig contentmoderatoren van verschillende bedrijven in de entreehal. Ze komen in het vakbondsgebouw bijeen om ’s werelds eerste bijeenkomst van contentmoderatoren, de ‘Content Moderator Summit’, bij te wonen. Het was niet gemakkelijk om ze te vinden: de outsourcingbedrijven waarvoor ze werken gebruiken voor de functie niet het begrip contentmoderator, maar hanteren termen als ‘systeemanalist’ of ‘medewerker klantenservice’. Een woordkeuze die verhult waar het werkelijk om gaat.
Onze partner Foxglove, een Britse non-profitorganisatie in Londen, benaderde de moderatoren via LinkedIn. Er is veel belangstelling voor de bijeenkomst; veel van de aanwezigen willen zich met collega’s van andere bedrijven organiseren en samen strijden voor betere arbeidsomstandigheden. Terwijl ik in de lobby sta, probeer ik me voor te stellen om wat voor mensen het gaat. Hoe zien ze eruit? Waar komen ze vandaan? Wat is hun professionele achtergrond? Voordat ik me een beeld heb kunnen vormen, komen de eersten al binnen. Ze zijn tussen de vijfentwintig en veertig jaar oud, spreken Engels en lijken op mij. Velen hebben een universitair diploma, sommigen zijn aan het promoveren. Ze komen niet overeen met het beeld van een uitgebuite ‘klikwerker’. Ze zijn niet wanhopig en lusteloos, maar dapper en strijdlustig.
De contentmoderatoren vertellen over de extreme psychologische tol die hun werk eist. Ze zien per dag tussen de tweehonderd en duizend berichten, waarvan sommige extreem gewelddadig zijn. Het werk is ingedeeld in drie shifts: sommige mensen werken overdag, sommige ’s nachts. De kantoren zijn steriel en de werkplek wordt bewaakt. Het systeem waarmee ze werken registreert elke klik, elke beweging die de cursor maakt en houdt bij hoelang de moderatoren erover doen om een bericht te beoordelen. Idealiter duurt dat slechts een paar seconden. Alleen de snelste en efficiëntste moderatoren mogen zelf kiezen welke diensten ze werken. Nacht- en weekenddiensten worden beter betaald.
Het vaste loon bedraagt 14,40 euro per uur, iets boven het minimumloon. Het is een mager bedrag voor een veeleisende baan die veel culturele, politieke en taalkundige kennis vereist. Het belang van het werk kan niet worden onderschat: zonder moderatoren zouden er geen socialemediaplatforms zijn. Veel van de moderatoren die ik ontmoet zijn migrant. In Duitsland wordt niet alleen de Duitstalige markt gemodereerd, ook buitenlandse markten komen aan bod, waaronder berichten in het Arabisch, Perzisch en Turks. Eén moderator vertelt me dat ze naar Duitsland is gekomen om te studeren. Dit werk begon als een parttimebaan, maar sinds ze is afgestudeerd doet ze het fulltime. Ze wil ermee stoppen, maar haar verblijfsvergunning hangt ervan af. Zulke verhalen hoor ik veel.
De werkgever biedt geen goede, psychologische ondersteuning door externe deskundigen aan, maar iets wat ‘welzijnsbegeleiding’ wordt genoemd. De moderatoren vinden het nutteloos en zelfs bespottelijk. De sessies zijn er volgens hen alleen maar voor de vorm. De moderatoren zijn getraumatiseerd door wat ze dagelijks zien, maar krijgen van hun coaches enkel het advies om ademhalingsoefeningen te doen of een wandeling te maken. Bovendien vertrouwen de moderatoren hun coaches niet: ze zijn bang dat ze bespioneerd worden en dat vertrouwelijke informatie wordt doorgespeeld naar hun werkgever. Toegang tot deskundige psychologische begeleiding en minder tijdsdruk zijn noodzakelijke maatregelen om het werk dragelijk te maken, zo zeggen veel van de mensen die ik spreek.
‘Beterschap’
Om verandering te bewerkstelligen hebben de moderatoren een manifest opgesteld met acht eisen voor betere arbeidsomstandigheden. Naast psychologische begeleiding en een gepast salaris eisen ze dat er een einde komt aan de cultuur van intimidatie en outsourcing. Techbedrijven moeten zelf verantwoordelijkheid nemen voor het werk en zorgen voor betere omstandigheden. Binnen een paar dagen ondertekenen meer dan driehonderd moderatoren in Duitsland het manifest. Half juni wordt het gepresenteerd bij een bijeenkomst van deskundigen in de digitale commissie van de Bondsdag.
Het is de eerste keer dat moderatoren ten overstaan van de leden van de Duitse Bondsdag over hun werkomstandigheden spreken. De anders nogal zakelijke en droge sfeer in de commissie wordt opgeschud door de emotionele betogen van de moderatoren. De hele vergaderzaal luistert geboeid naar de verhalen van de twee gespreksleiders, Daniel Motaung uit Zuid-Afrika en Cengiz Haksöz uit Duitsland. Haksöz begint zijn betoog met een citaat uit de Dreigroschenoper van Bertolt Brecht: ‘De mensen in het donker worden niet gezien.’ Hij vertelt dat zijn collega’s elkaar aan het eind van de werkdag geen ‘fijne avond’, maar ‘beterschap’ wensen. Ze hebben hun vrije avond nodig om bij te komen van de stress en spanning van het werk.
De parlementsleden zijn erg geïnteresseerd en stellen veel vragen. Eén onderwerp komt steeds weer terug: kunstmatige intelligentie. Ze vragen of kunstmatige intelligentie in de toekomst het werk van moderatoren zal kunnen vervangen. Het is een vraag die techbedrijven graag krijgen: zo kunnen ze speculeren over de toekomst, in plaats van zich te bekommeren om de omstandigheden waaronder tienduizenden mensen nu werken.
Vooralsnog is kunstmatige intelligentie nog lang niet ontwikkeld genoeg om de complexe taak van een contentmoderator over te nemen. Het is ingewikkeld werk: de beoordeling van veel van de berichten moet genuanceerd gebeuren. Denk bijvoorbeeld aan satire of aan politiek commentaar. Geautomatiseerde systemen staan erom bekend dat ze videocontent en andere talen dan Engels slecht kunnen beoordelen. Ze zijn dus nog niet geschikt als alternatief voor menselijke moderatoren. Haksöz zegt dat de focus moet liggen op de ondersteuning van mensen nu, in plaats op van speculatie over hun toekomstige vervanging. Aan het einde van de vergadering verzekert Tabea Rößner, de voorzitter van de commissie, dat ze aan de slag gaan om de omstandigheden te verbeteren.
Als ze zich publiekelijk uitspreken over hun arbeidsomstandigheden, zetten ze hun baan op het spel
Haksöz ondervindt onmiddellijk gevolgen van zijn dappere optreden. Slechts een paar dagen na de hoorzitting wordt hij ontslagen door zijn werkgever. Hij mag het bedrijfsgebouw niet meer in. Zo wordt de angstcultuur weer eens bevestigd. Met het ontslag geeft de bedrijfsleiding een duidelijk signaal af aan de werknemers: als ze zich publiekelijk uitspreken over hun arbeidsomstandigheden, zetten ze hun baan op het spel. De werkgever van Haksöz zegt dat hij zijn ‘arbeidsvoorwaarden’ heeft geschonden met zijn uitspraken in de Bondsdag en de media. Maar als burger in een democratie heeft Haksöz het goed recht om over zijn ervaringen te vertellen.
Nu moet hij zijn zaak voor de arbeidsrechter brengen om zijn taken als commissielid voor de komende verkiezingen voor de ondernemingsraad weer te kunnen hervatten. Vakbond Verdi stelt het optreden van de werkgever gelijk aan union busting: daarvan is sprake wanneer werkgevers voorkomen of bemoeilijken dat hun werknemers actief zijn in de vakbond. Haksöz bereidt zich voor op de verkiezingen. Ondertussen zegt zijn werkgever bij de arbeidsrechtbank af te zullen dwingen dat hij ontslagen wordt. Samengevat: er worden nog meer intimidatietechnieken ingezet om de vakbondsactiviteiten van de moderatoren te verhinderen.
Een functionerende ondernemingsraad is een eerste, kleine stap in de richting van betere werkomstandigheden. Maar er moet nog veel meer veranderen om de arbeidsomstandigheden wereldwijd te verbeteren. Zo moet er striktere regelgeving komen voor techbedrijven. Zij zijn verantwoordelijk voor de uitbuiting en dus ook voor de schade. Begin juni deed een arbeidsrechtbank in Nairobi een voorlopige uitspraak waarin precies dat werd vastgelegd. Volgens de rechtbank is Meta de belangrijkste werkgever van de contentmoderatoren van Facebook in Kenia. Als je resultaten wil boeken, is het belangrijk om het probleem vanuit verschillende oogpunten te bekijken. Wat kan er gedaan worden op nationaal, Europees en mondiaal niveau? In Duitsland is in januari de Lieferkettensorgfaltspflichtengesetz van kracht geworden. Deze wet stelt bedrijven die producten leveren verantwoordelijk voor het naleven van mensenrechten in hun wereldwijde toeleveringsketens. Met een vergelijkbare regeling voor digitale diensten zoals contentmoderatie zou het mogelijk worden om het probleem van uitbuiting bij de wortel aan te pakken.
Tot dat moment zullen moderatoren elke dag blijven afdalen in de mijnschacht van de sociale media om onze gezondheid en democratie te beschermen. Maar ze doen het niet langer in het donker. Ze worden steeds vaker gezien.
Elke dag worden wereldwijd meer dan 1 miljoen Facebook-berichten aangemeld als ontoelaatbaar. Alle meldingen, ongeveer duizend per dag per persoon, worden beoordeeld door content-moderators aan de hand van complexe communitystandards. Veel van de ‘wisarbeiders’ zijn na het maandenlang uitfilteren van haat, seks en geweld zo murw dat ze vrijwel alles doorlaten. Anderen lopen ernstige trauma’s op. Sz-magazin verdiepte zich in de arbeidsomstandigheden voor dit nieuwe beroep en sprak met een aantal ex-medewerkers.
In de zomer van 2015 verschijnt op internet een personeelsadvertentie: ‘Medewerkers Service Center gezocht. Wilt u deel uitmaken van een internationaal team met goede carrièreperspectieven?’ Gevraagd worden: kennis van vreemde talen, flexibiliteit en betrouwbaarheid. Standplaats: Berlijn.
Toen ik de advertentie las, dacht ik: Helemaal te gek. Ik was al maanden op zoek naar een baan in Berlijn waarvoor ik geen Duits hoefde te kennen.
De vrouw die dit zegt, wil anoniem blijven. De baan waarop ze solliciteerde, bestaat pas zo kort dat er niet eens een naam voor is. De advertentie doet eerder een callcenter vermoeden dan wat de sollicitanten in werkelijkheid te wachten staat. Sommigen noemen het content-moderation, anderen hebben het over ‘digitale vuilafvoer’. De taak van deze mensen: het schoonhouden van de sites van hun opdrachtgevers. Ze klikken zich door alle haat en horror heen, die gebruikers via internet verspreiden. En moeten beslissen: wissen of niet? Het is een baan waarover maar weinig bekend is. Veel mensen weten niet eens dat zulke banen bestaan.
Lang werd gedacht dat dit soort werk vooral gedaan werd door dienstverlenende bedrijven in opkomende economieën zoals India en de Filipijnen. Een van de grootste opdrachtgevers van deze bedrijven is Facebook. Het sociale netwerk, met in Duitsland 28 miljoen en wereldwijd 1,8 miljard gebruikers, laat vrijwel niets los over het wissen van gevaarlijke berichten die iedere dag in grote aantallen geüpload worden.
Pas in januari van dit jaar werd bekend dat er ook in Berlijn ruim honderd mensen via dienstverlener Arvato, een dochterbedrijf van Bertelsmann, als content-moderator voor Facebook werken. Hoeveel Facebook Arvato voor dit werk betaalt of op basis van welke criteria de medewerkers worden aangetrokken – daarover doet het bedrijf in principe geen mededelingen.
Gedurende enkele maanden heeft sz-magazin gesprekken gevoerd met veel (ex-)medewerkers van Arvato. Hoewel zij van hun leidinggevenden niet met journalisten mochten praten, wilden ze toch hun verhaal kwijt. Veel van hen voelen zich door hun werkgever slecht behandeld, ze lijden onder de beelden die ze elke dag onder ogen krijgen, klagen over stress en uitputting en vinden dat hun arbeidsomstandigheden publiekgemaakt moeten worden. Sommigen staan onderaan in de hiërarchie, anderen hoger, ze komen uit verschillende landen en spreken verschillende talen.
Soms waren ze zelfs bereid om met hun echte naam naar buiten te treden, omdat ze al ontslag hadden genomen of van plan waren dat te doen. We hebben besloten om alle bronnen te anonimiseren. Want alle medewerkers hebben contracten getekend waarin een geheimhoudingsplicht is opgenomen. Hun woorden drukken we cursief af. De gesprekken werden face-to-face in Berlijn, via Skype of via versleutelde internetcommunicatie, gevoerd.
Schokkende beelden
De meeste sollicitanten zijn jonge mensen die op de een of andere manier in Berlijn zijn beland: vanwege studie, liefde, avontuur. Er zitten ook Syrische vluchtelingen tussen. Allemaal worden ze aangetrokken door het vooruitzicht op een baan bij een grote Duitse onderneming, in vaste dienst, voor bepaalde tijd weliswaar, maar toch. Het sollicitatiegesprek stelt doorgaans weinig voor, gevraagd wordt naar kennis van vreemde talen en ervaring met computers. Maar één vraag verbaast de sollicitanten wel: ‘Kunt u tegen schokkende beelden?’
Op onze eerste werkdag kregen we een introductietraining. We zaten met ongeveer dertig man in een collegezaal, mensen uit alle mogelijke landen: Turkije, Zweden, Italië, Puerto Rico, ook veel Syriërs.
De trainer kwam met een stralende lach de zaal binnen en zei: jullie hebben een lot uit de loterij getrokken, jullie gaan werken voor Facebook! Iedereen was opgetogen.
Bij de introductie kregen de medewerkers de regels uitgelegd waaraan zij zich dienen te houden. Om te beginnen: niemand mag weten wie onze opdrachtgever is. De naam Facebook mogen ze niet in hun cv of LinkedIn-profiel vermelden. Niet eens hun familie mag weten wat ze doen.
Hun taak wordt door de trainer als volgt uitgelegd: ‘jullie zuiveren Facebook van alle inhoud die anders ook kinderen onder ogen zou komen. En omdat jullie die wissen, ontnemen jullie aan haat en terreur een podium.’
Een ex-medewerker noemt de introductie tegenover sz-magazin ‘indoctrinatie’: de mensen moeten het idee krijgen dat dit in zijn eigen woorden ‘stupide en suffe werk’ vooral dient om de samenleving te beschermen – en niet in de eerste plaats het belang van miljardenconcern Facebook, dat mensen zolang mogelijk op zijn site wil houden en er daarom voor moet zorgen dat ze daar niet al te veel schokkende zaken zien.
Op de training kregen we beelden te zien die niet zo erg waren: penissen in alle vormen en maten. We deden er wat lacherig over. Wel gek om voor je werk naar dit soort dingen te moeten kijken. Nou ja, die moesten we dan ook wissen. En blote tieten.
Op een avond gingen we een keertje wat drinken met mensen die dit werk al langer deden. Na een paar biertjes zei een van hen: als ik jullie een tip mag geven, geef die baan er zo snel mogelijk aan, je gaat eraan kapot.
De medewerkers krijgen op de introductie documenten waarin behalve geheimhoudingsclausules ook mogelijke gezondheidsrisico’s staan opgesomd: rugpijn, oogschade door een te lang staren naar het beeldscherm. Over mogelijke psychische risico’s, bijvoorbeeld als gevolg van een constante confrontatie met gewelddaden, wordt met geen woord gerept. Wel krijgen de nieuwe Arvato-werknemers een plattegrondje van het Berlijnse S-Bahn-net met daarop de mededeling ‘have a good time in Berlin’!
Een lijst die Gawker in 2012 in handen kreeg. Kort na publicatie werden enkele regels gewijzigd.
De werkruimtes aan de Wohlrabedamm in de Berlijnse Siemensstadt zijn zakelijk gehouden. Voormalige fabrieksgebouwen, baksteen, binnen witte, smalle eenpersoonsbureaus in rijen achter elkaar, daarop een zwarte computer met een wit toetsenbord. Ergonomische bureaustoelen, grijs kantoortapijt. Plek voor enkele tientallen mensen. De arbeidsovereenkomst verbiedt het gebruik van mobiele telefoons tijdens werktijd. Op de begane grond staat een automaat voor snacks en een voor koffie en warme chocolade. Voor de rokers is er een grote binnenplaats. In het gebouw zitten ook andere bedrijven.
Je logt in en gaat naar een wachtrij met duizenden aangemelde berichten, je klikt om erin te komen en het werk begint.
Er bestaan machinale filters die er automatisch berichten uithalen, vertelt een ex-medewerker. Maar juist bij beelden of video’s is het voor een computer moeilijk om bijvoorbeeld een beeld van een medische operatie te onderscheiden van dat van een terechtstelling. Daarom komt het merendeel van alle berichten die het Berlijnse team moet doornemen van Facebook-gebruikers die deze als aanstootgevend hebben aangemeld via de functie: ‘Deze bijdrage aanmelden – hij zou naar mijn mening niet op Facebook moeten staan’.
Ik heb zaken gezien die me ernstig doen twijfelen aan het goede in de mens. Martelingen en seks met dieren.
De aangemelde berichten komen terecht bij de medewerkers die helemaal onderaan de hiërarchie staan. Hun team heeft de naam FNRP, wat staat voor Fake Not Real Person. Zij moeten de teksten, foto’s of video’s die door gebruikers als problematisch zijn aangemeld, uitfilteren op strijdigheid met de zogeheten communitystandards van Facebook. Eerste stap: nagaan of het bericht afkomstig is van het profiel van een werkelijk bestaande persoon. Zo niet, dan ontvangt het gevonden profiel een waarschuwing dat het zal worden gewist – vandaar de aanduiding Fake Not Real Person. Wanneer de gebruiker zich vervolgens niet overtuigend kan identificeren, wordt het hele account verwijderd. Zo wordt opgetreden tegen profielen die specifiek werden aangemaakt om verboden inhoud te verspreiden.
Het FNRP-team werkt 40 uur per week, in 2 ploegen van 8.30 uur tot 22 uur. Het maandsalaris bedraagt ongeveer € 1500 bruto, niet veel meer dan het minimumuurloon van € 8,50.
De content-moderators zitten een trapje hoger in de hiërarchie, zij onderzoeken ook video’s. Heel moeilijke gevallen belanden bij de subject matter experts. Daarboven staan dan weer de teamleiders. Hun baan geldt als minder belastend: zij krijgen nauwelijks schokkende berichten onder ogen.
Werk voor 70.000 mensen
Arvato is een gigant. Een bedrijf dat taken overneemt die door andere bedrijven worden uitbesteed. De onderneming neemt heel verschillende zaken voor zijn rekening, bijvoorbeeld callcenters, frequentflyerprogramma’s en verzendcentra. In meer dan veertig landen verschaft deze dienstverlener werk aan ongeveer zeventigduizend mensen. Arvato is een van de steunpilaren onder mediagigant Bertelsmann. Meer dan de helft van alle Bertelsmann-werknemers staat op de loonlijst van Arvato. Op de website van het bedrijf staat het motto: ‘Hoe kunnen wij u van dienst zijn?’
Een van de oorzaken voor zo’n Facebook-wiscentrum in Berlijn is vermoedelijk ook de sterker wordende druk van de Duitse autoriteiten. Minister van Justitie Heiko Maas verlangt van Duitse aanspreekpunten bij Facebook dat ze kritisch kijken naar Duitstalige teksten en dat twijfelachtige postings snel worden verwijderd. Op dit moment doet het Openbaar Ministerie in München een gerechtelijk onderzoek naar verdenking van medeplichtigheid van Facebook aan volksopruiing.
In de vroege zomer van 2015 werd een kleine Arvato-delegatie uitgenodigd op het Europese hoofdkwartier van Facebook. Beide bedrijven hadden besloten om samen te werken: het grootste sociale netwerk ter wereld had hulp nodig bij het schoonmaken van zijn site; de managers van Arvato moesten leren hoe je daarvoor een team opbouwt. In het najaar van 2015 gingen de werkzaamheden van start. Aanvankelijk bleef de zaak geheim.
Wat is er in het contract tussen Facebook en Arvato afgesproken over de looptijd? Hoe worden medewerkers op hun werk voorbereid? Heeft Arvato tevoren een risicoanalyse t.a.v. de psychische belasting van content-moderation gemaakt? sz-magazin heeft het bedrijf schriftelijk negentien vragen gesteld. Maar Arvato zegt alleen: ‘Onze opdrachtgever Facebook heeft zich het recht voorbehouden om alle persvragen over samenwerking met Arvato zelf af te handelen.’
Ook Facebook Duitsland antwoordt op diverse schriftelijke vragen van sz-magazin om informatie meestal alleen in vage bewoordingen of met de zinsnede: ‘Hierover doen wij geen mededelingen.’ Op sommige punten zit er licht tussen de weergave van Facebook en het verhaal van de (ex-)medewerkers van Arvato. Zo schrijft Facebook dat elke werknemer in het Facebook-team van Arvato voor aanvang van zijn werkzaamheden verplicht is een ‘training van zes weken en een mentorprogramma van vier weken’ te volgen. De door sz-magazin gesproken medewerkers hebben het meestal over een beduidend kortere voorbereidingsperiode: twee weken.
De wisteams bij Arvato zijn ingedeeld naar taal. Op de gangen wordt Engels gesproken, binnen de teams de taal van het betreffende team: Arabisch, Spaans, Frans, Turks, Italiaans, Zweeds. En natuurlijk Duits. De teams doorzoeken de berichten uit het eigen taalgebied. Maar eigenlijk is er geen wezenlijk verschil qua inhoud.
Er komt van alles en nog wat uit de beelden in de wachtrij. Dierenmishandeling, hakenkruisen, penissen.
De teams hebben allemaal een verschillende manier om met heftige beelden om te gaan: de Spanjaarden praten er hardop over, de Arabieren trekken zich eerder terug, terwijl de Fransen vaak alleen maar stilletjes voor hun beeldscherm zitten.
In het begin maakten we in de middagpauzes nog grappen over de vele porno’s. Maar op een gegeven moment werden we er allemaal steeds gedeprimeerder van.
Na enkele dagen zag ik mijn eerste lijk, veel bloed, ik schrok me kapot. Ik heb het beeld onmiddellijk gewist. Mijn leidinggevende kwam toen naar me toe. Hij zei: “Dat was fout, dat beeld was niet strijdig met de communitystandards van Facebook.” De volgende keer moest ik zorgvuldiger te werk gaan.
Wissen of niet? Wanneer de beslissing is gevallen, verschijnt de volgende opdracht op het scherm. Het aantal zaken – tickets geheten – kan via een teller op het beeldscherm worden bijgehouden.
De beelden werden steeds erger, veel grover dan op de training. Maar vaak ook alleen dingen die je in mijn eigen land gewoon in de krant kunt aantreffen. Geweld, soms misvormde lijken.
Steeds weer gebeurt het dat mensen op springen. De zaal uit rennen. Huilen.
De medewerkers hebben sz-magazin details verteld die te gruwelijk zijn om te vermelden. De volgende beschrijvingen zijn al moeilijk te verdragen.
Een hond zat vastgebonden. Een naakte Aziatische vrouw kwelde het dier met een heet ijzer. Daarna gooide ze kokend water over hem heen. Het was als fetisj bedoeld voor mensen die daar geil van worden.
Kinderpornografie was het ergste. Zo’n klein meisje, hooguit zes jaar, dat op een bed ligt, bovenlichaam ontbloot en daarop zit dan een dikke man haar te misbruiken. En dat in close-up.
Wie dit soort inhoud moet bestuderen, is een combinatie van portier en lopende-bandarbeider: dit mag blijven staan, klik, dat niet, klik. In het begin moest ieder van de FNRP-ers dagelijks ongeveer duizend tickets doen: duizend beslissingen of iets strijdig is met het complexe regelwerk van Facebook, de zogeheten communitystandards die bepalen wat er op de site gepubliceerd mag worden en wat er moet worden gewist.
Vroeg of laat komt er een onthoofding voorbij, terreur, heel veel bloot. De ene pik na de andere. Eindeloos veel pikken. En altijd weer iets bijzonder gruwelijks. Hoe vaak valt lastig te zeggen, het hangt ervan af, maar zeker één, twee keer per uur. Elke dag overkomt je iets verschrikkelijks.
Na enkele dagen zag ik mijn eerste lijk, veel bloed, ik schrok me kapot. Ik heb het beeld onmiddellijk gewist. Mijn leidinggevende kwam toen naar me toe. Hij zei: ‘Dat was fout, dat beeld was niet strijdig met de communitystandards van Facebook.’ De volgende keer moest ik zorgvuldiger te werk gaan.
Ook al klinkt het woord communitystandard al even onschuldig als het poetsschema van een studentenhuis, achter dit regelwerk gaat een goedbewaard geheim van de socialemediabedrijven schuil. Daarin wordt tot in detail vastgelegd welke informatie mag worden geüpload en gedeeld en welke moet worden gewist. Het is een soort parallelwet waarin de grenzen van meningsvrijheid vastgelegd worden door concerns met een enorme invloed op wat mensen elke dag zien – en wat niet. Daarbij gaat het om meer dan alleen de vraag of blote tieten nu wel of niet aanstoot geven. Facebook is een belangrijk middel voor politieke vorming en beïnvloeding. De informatie die erop gedeeld wordt, bepaalt in belangrijke mate mede ons beeld van de samenleving. De manier waarop we rampen, revoluties of demonstraties ervaren is mede afhankelijk van de beelden die hiervan in de tijdlijnen op Facebook terechtkomen. Toch zijn verreweg de meeste details van dit regelwerk niet openbaar en heeft de wetgever geen inzicht in de precieze criteria op basis waarvan berichten worden gecensureerd of juist vrij mogen circuleren.
Socialemediabedrijven maken meestal maar een klein stukje van dit regelwerk openbaar, en dat ook nog vaak in vage bewoordingen. Bij Facebook staan dan bijvoorbeeld zinnen als: ‘Wij accepteren in geen geval gedragspatronen waardoor mensen aan gevaar worden blootgesteld.’ Hoe dat niet geaccepteerde gedrag er dan precies uitziet, wordt niet verder toegelicht. Een ex-werknemer geeft als verklaring voor die geheimzinnigheid dat Facebook mensen niet op het idee wil brengen hoe zij met handig formuleren van postings de wisregels kunnen omzeilen. Een absurde logica: alsof een staat zijn wetgeving achter slot en grendel houdt, uit angst dat mensen anders hun criminele methoden zouden kunnen verfijnen.
Hoewel Facebook zichzelf presenteert als een open onderneming die mensen alleen een platform biedt voor het delen van informatie, toont het bedrijf zich gesloten wanneer het om de eigen praktijk gaat. Gerd Billen, staatssecretaris op het ministerie van Justitie en voorzitter van de taskforce voor ‘omgang met onwettige haatboodschappen op het internet’, zegt: ‘Helaas zie ik op dit moment onvoldoende bereidheid bij Facebook om transparant en inzichtelijk uiteen te zetten hoe wordt omgegaan met strafbare inhoud.’ Zelfs hij, bewindspersoon op het ministerie van Justitie, was tot op heden niet welkom bij Arvato. ‘Ik heb meer dan eens transparantie verlangd met betrekking tot de omgang met schokkende boodschappen, zoals de exacte wisregels of het aantal hierbij betrokken medewerkers en de eisen die aan hen worden gesteld. Maar tot nu toe bleef het bij lippendienst,’ zegt Billen. Momenteel werkt zijn ministerie aan een wetsvoorstel dat Facebook tot meer transparantie moet verplichten.
sz-magazin heeft grote stukken van de geheime Facebook-regels in handen. Het is de eerste keer dat ze in deze omvang openbaar worden. De laatste keer dat er iets publiek werd, was begin 2012 toen op de Amerikaanse website Gawker een leidraad van zeventien pagina’s opdook met wiscriteria van een bedrijf dat eveneens voor Facebook werkte.
De interne documenten waarover sz-magazin beschikt, bevatten honderden regeltjes die allemaal door Facebook zijn vastgelegd. Heel interessant zijn de verschillende voorbeelden van gevallen waarbij inhoud gewist moet worden of juist niet.
Gewist moeten onder meer worden:
Een beeld van een vrouw die in het openbaar overgeeft – hierbij als commentaar: ‘Jezus, ben jij volwassen? Dit is walgelijk’ (reden: commentaar wordt gezien als psychische terreur vanwege het uiten van afschuw voor lichamelijke functies).
Een foto zonder verder commentaar van een meisje naast de foto van een chimpansee met eenzelfde gezichtsuitdrukking (reden: vernederende fotobewerking, niet mis te verstane vergelijking van een mens met een dier).
Een video waarop een mens wordt mishandeld, maar alleen als deze voorzien is van commentaar in de trant van: ‘Genieten om te zien hoeveel pijn hij heeft’.
Niet gewist moeten bijvoorbeeld worden:
De video van een abortus (behalve wanneer die naaktopnamen bevat).
De foto van een man die opgehangen is, met als commentaar ‘Hang die hoerenzoon’ (wordt gezien als toegestaan pleidooi voor de doodstraf; wordt wel verboden als het specifiek om een ‘beschermde mensengroep’ gaat en er bijvoorbeeld zou staan: ‘Hang die flikker op’).
Foto’s van een vrouw met extreme anorexia, zonder enig commentaar (het tonen van zelfverminking zonder verdere context is toegestaan).
Zo is de omgang met extreem geweld bijvoorbeeld geregeld in hoofdstuk 15.2, dat gewijd is aan het verheerlijken van geweld: ‘We staan niet toe dat mensen beelden of video’s delen waarin mensen of dieren sterven of zwaar verwond worden, waarbij deze vorm van geweld tegelijkertijd wordt toegejuicht.’ Wat op de beelden te zien valt, is dus niet relevant; het gaat alleen om de combinatie van beeld en tekst. Bij wijze van voorbeeld volgt een reeks commentaren die als verheerlijking van geweld worden gezien. Wanneer iemand onder een foto van een stervend mens schrijft: ‘Moet je zien – wat cool’ of ‘Fuck yeah’ – alleen in zo’n geval moeten zulke beelden conform dit voorschrift worden gewist.
De regels waren nogal onbegrijpelijk. Ik zei tegen mijn teamleider: dat kan toch niet, dat beeld is hartstikke bloederig en gewelddadig, dat zou geen mens moeten zien. Maar hij vond alleen: dat is jouw mening, maar je moet proberen te denken zoals Facebook dat wil. We moesten denken als machines.
Vanuit het hoofdkwartier van Facebook komen er voortdurend aanpassingen van de communitystandards. Bij Arvato is er iemand die deze wijzigingen in de gaten moet houden. Voor Facebook is dat heel belangrijk. Uiteindelijk gaat het om zaken waardoor gebruikers het platform links kunnen laten liggen – en het hoogste doel van Facebook is precies tegenovergesteld: zo veel mogelijk mensen zolang mogelijk op het platform houden, zodat ze zo veel mogelijk reclame zien en Facebook zo veel mogelijk geld verdient.
Hun psychische gezondheid is van grote invloed op de berichten die tot in de tijdlijnen weten door te dringen. Want veel van hen zijn na het maandenlang uitfilteren van haat, seks en geweld zo murw dat ze vrijwel alles doorlaten
Het is geen eenvoudige taak waar Facebook voor staat: de haat en de waanzin van mensen in toom houden en tegelijkertijd veiligstellen dat belangrijke gebeurtenissen niet gewoon onzichtbaar blijven. Besluiten om te wissen kunnen even verrijkende consequenties hebben als besluiten over journalistieke berichtgeving.
Voor honderden miljoenen mensen op aarde is Facebook de belangrijkste nieuwsbron. Ook al wordt het bedrijf niet als mediaconcern gezien omdat het zelf geen nieuws produceert, het kan niet om journalistiek-ethische vragen heen: zijn beelden van geweld in bijvoorbeeld het kader van oorlogsverslaggeving wel gerechtvaardigd, omdat ze dan een hoger doel dienen? Daarover denken wetenschappers al tientallen jaren na, maar op sociale media moeten zulke vragen snel een antwoord krijgen. Ruim zeven jaar geleden was een video van de stervende Neda Agha-Soltan, een jonge vrouw uit Teheran die bij protesten werd doodgeschoten, de eerste vuurproef voor Facebooks concurrent YouTube. Wissen of niet? Een YouTube-team besloot: de film is een politiek document, hij blijft ondanks de schokkende beelden online. Al geruime tijd proberen bedrijven voor zulke complexe besluiten simpele regels op te stellen. In de geheime Facebook-documenten staat: ‘Video’s waarop de dood van mensen te zien is, zijn schokkend maar kunnen wel bewust maken van zelfverminking, psychische ziektes, oorlogsmisdaden of andere belangrijke thema’s.’ In geval van twijfel moeten de medewerkers bij Arvato deze video’s voorleggen aan hun leidinggevenden. Over heel gecompliceerde gevallen wordt, naar verluidt, beslist op het Europese hoofdkwartier in Dublin.
Heel sterk was dat bij de terreuraanslagen in Parijs van afgelopen jaar. Daarvoor werden speciale vergaderingen georganiseerd over wat er met de livebeelden gebeuren moest. Toen zijn de schokkendste dingen bij ons terechtgekomen, zo goed als in real time. Uiteindelijk werd ons verteld dat we de meeste berichten gewoon moesten doorsturen naar het Arabische of het Franse team. Wat er verder mee gebeurd is, weet ik niet.
Toen de aanslagen in Parijs begonnen moesten wij content-moderators van de teamleiders onmiddellijk naar kantoor komen, hoewel het weekend was. Ik kreeg telefoontjes en sms-berichten van ze. Ik heb het hele weekend moeten doorwerken.
Betrouwbare cijfers over de aantallen mensen die wereldwijd hun beroep hebben gemaakt van het wissen van Facebook-content, ontbreken vrijwel geheel. Het hoofd van de internationale Facebook-afdeling policy, Monika Bickert, verklapte vorig jaar maart op een conferentie dat gebruikers elke dag wereldwijd meer dan 1 miljoen Facebook-berichten aanmelden als ontoelaatbaar. Hoeveel mensen zich met het wissen van die berichten bezighouden, vertelde ze niet. Mediawetenschapper Sarah Roberts van California University in Los Angeles doet al jaren onderzoek naar dit nieuwe beroep. Ze schat dat er over de hele wereld zo’n honderdduizend mensen dit soort werk doen, vrijwel allemaal bij dienstverlenende bedrijven, en niet alleen voor Facebook. Roberts heeft veel van die mensen in verschillende landen geïnterviewd. Veel van hen omschrijft ze als getraumatiseerd. Hun psychische gezondheid is van grote invloed op de berichten die tot in de tijdlijnen weten door te dringen. Want veel van hen zijn na het maandenlang uitfilteren van haat, seks en geweld zo murw dat ze vrijwel alles doorlaten. Daar komt nog bij dat de tijd om secuur te werken vaak ontbreekt.
Sommige video’s moet je van begin tot eind bekijken. Ze laten ons er niet doorheen skippen en alleen screenshots bekijken. Het ergste is het geluid. Dat moet je ook aanhoren omdat juist in het geluidsspoor iets kan zitten wat niet is toegestaan. Haatpreken bijvoorbeeld of sadisme. Sommige video’s zijn hele films die langer dan een uur kunnen duren.
Veel content-moderators krijgen de beelden ook thuis niet uit hun hoofd. En dan komt er vaak ook nog een berichtje van de teamleiders. Dat je achterloopt! Of je niet een extra dienst kunt draaien? De werklast valt voor de medewerkers niet bij te benen, vertelt een man die inmiddels ontslag genomen heeft.
Acht seconden per taak
Flexibel moeten zijn, daar weten ze in Berlijn alles van, zeker als je uit een ander land komt en geen Duits spreekt. Want de stad trekt allang niet meer alleen mensen aan uit Beieren en Zwaben, maar ook veel mensen uit de wereldwijde middenklasse: Indiërs, Mexicanen, Zuid-Afrikanen, jonge, vaak goed opgeleide mensen – die er in Berlijn vervolgens achter moeten komen dat zij met al hun opleiding vrijwel nergens aan de slag kunnen. Ongeveer dertig procent van de in Berlijn wonende buitenlanders loopt het risico in armoe te vervallen. Een ex-werknemer meent:
Je kunt Arvato alleen maar feliciteren met het commerciële inzicht om dit werk in Berlijn te laten doen. De stad is een smeltkroes van talen en culturen, waar elders vind je Zweden, Noren, Syriërs, Turken, Fransen, Spanjaarden die dringend op zoek zijn naar werk?
De meeste van die immigranten zijn vertwijfeld, ze willen per se in de stad wonen en nemen daarvoor op de koop toe een baan waarvoor ze ver overgekwalificeerd zijn, die hun psychische gezondheid aantast en velen van hen steeds verder doet afstompen.
Zo komt het dat er tussen de wisarbeiders van Arvato ook kwantumfysici zitten of zaten, mensen met een doctorstitel, een hoogleraar, vaak vluchtelingen met beroepskwalificaties die in Duitsland niet erkend worden. Een ex-medewerker vertelt dat het moeilijk was om mensen tot zulk afstompend werk te motiveren. Of te bevorderen. Want wie het tot content-moderator schopt, moet ook video’s onderzoeken.
Eén video kon voldoende zijn om mijn leven te ruïneren. Dat wist ik. Ik wilde in geen geval content-moderator worden. Ik was bang voor wat dat psychisch met mij zou doen. Content-moderators zien de meest afschuwelijke dingen die je je maar kunt voorstellen. Op beelden en in video’s.
Content-moderators moeten nog sneller werken dan de FNRP-ers die helemaal onder in de hiërarchie staan. Per zaak hebben ze gemiddeld acht seconden – hoewel ze steeds weer hele films moeten doorkijken die veel langer duren. Zijn dagelijkse target was meer dan drieduizend gevallen, vertelt een content-moderator. Dat komt ongeveer overeen met de aantallen die de Amerikaanse National Public Radio in november hoorde van content-moderators uit andere landen – en die Facebook overigens tegenover de zender ontkent. Volgens een ex-medewerker loopt al het werk van de wisteams via een intern Facebook-platform, zodat het bedrijf volgens hem op de hoogte moet zijn van de actuele cijfers.
Tegelijkertijd was het onmogelijk om elke video echt af te kijken en te onderzoeken. Ze zijn zo grof dat je gewoonweg wilt schakelen, hoewel dat niet mag. Bovendien moet je op veel dingen letten – vaak is niet duidelijk welke regel er precies wordt overtreden.
Je moet je dagelijkse target halen, anders krijg je mot met je leidinggevende. De druk was immens.
In het voorjaar van 2016 schrijft het Spaanstalige wisteam een brief aan de Arvato-directie over overbelasting en slechte arbeidsomstandigheden. Het schrijven gaat al snel rond bij alle medewerkers: ‘Wegens overbelasting hebben we gevraagd om pauzes van vijf minuten (…) Aan deze wens is tot op heden helaas nog niet tegemoetgekomen. Verder dient vermeld te worden dat bij alle hierboven genoemde moeilijkheden ook nog eens de psychische belasting komt, veroorzaakt door het verwerken van tickets met een soms schokkende inhoud.’
Veranderd is er sindsdien niks, zeggen de medewerkers. Velen laten weten dat er inmiddels in plaats van duizend bijna tweeduizend tickets per dag van de FNRP-ers worden verwacht. Op navraag van sz-magazin laat Facebook weten hierover geen mededelingen te verstrekken.
Mijn teamleidster vond: als de job je niet bevalt, dan kun je toch ontslag nemen.
Momenteel zijn er bij Arvato in Berlijn ruim zeshonderd mensen bezig met het wissen van Facebook-berichten, zegt een medewerker. En het worden er almaar meer. In maart 2016 werd op geringe loopafstand een tweede gebouw betrokken. De medewerkers hingen op kantoor een enorme Facebook-banner op.
Het is zo tegenstrijdig: natuurlijk vonden we het cool om voor Facebook te werken, een bedrijf dat iedereen kent en dat populair is. Je probeert gewoon het kwaad uit te wissen.
Hoewel het werk verschrikkelijk is, zouden maar verbazend weinig medewerkers ontslag willen nemen, vertelt een van onze bronnen. Misschien omdat ze het geld nodig hebben, misschien omdat ze afgestompt zijn. Een medewerker van het Arabische team zegt:
Het is erg, maar zo kan ik tenminste voorkomen dat verschrikkelijke geweldvideo’s uit Syrië verder worden verspreid.
Maar altijd weer komen er video’s voorbij waardoor medewerkers het niet langer volhouden.
Er was een man met een kind. Ongeveer drie jaar oud. Die vent schakelt de camera in. Hij pakt het kind. En een slagersmes. Ik heb zelf een kind. Precies zo een. Dat kind zou mijn kind kunnen zijn. Ik hoef me niet gek te laten maken vanwege dit kutbaantje. Ik heb de zaak erbij neergegooid en ben gewoon weggelopen. Ik heb mijn tas gepakt, de hele weg naar de tram heb ik lopen huilen.
Wetenschappers definiëren een psychisch trauma als een belastende gebeurtenis die niet zonder meer verwerkt kan worden. Het is vaak het resultaat van lichamelijk of geestelijk geweld en leidt niet zelden tot een posttraumatische stressstoornis. Harald Gründel, als hoogleraar psychosomatische geneeskunde verbonden aan het academische ziekenhuis van Ulm en lid van het presidium van de Duitse traumastichting, heeft een aantal door sz-magazin van interviews met Arvato-werknemers gemaakte verslagen gelezen. Voor Gründel wijzen hun beschrijvingen mogelijk op klassieke kentekenen van een posttraumatische stressstoornis: belastende foto’s en video-opnames die ook buiten het werk steeds weer voor het geestesoog opduiken; terugkerende nachtmerries; overdreven schrikachtige reacties in situaties die vaag wat met de inhoud van de video’s van doen hebben; pijnen waarvoor geen fysieke verklaring is; teruggetrokken sociaal gedrag; uitputting en afstomping; verlies aan seksuele belangstelling.
Toen ik die video’s met kinderporno had gezien, kon ik net zo goed non worden – aan seks viel niet meer te denken. Al meer dan jaar kan ik niet meer intiem worden met mijn partner. Zodra hij me aanraakt, begin ik te trillen.
Ineens viel mijn haar bij bosjes uit, na het douchen of zelfs op het werk. Mijn arts zei: je moet daar weg bij die baan.
Altijd waren er weer mensen die opsprongen vanachter hun bureau, naar de keuken renden en het raam openrukten om na een onthoofdingsvideo wat frisse lucht te krijgen.
Velen gingen zuipen of stevig blowen om ermee om te kunnen gaan.
Op navraag van sz-magazin zegt Facebook: ‘We geven elke medewerker de gelegenheid voor psychologische begeleiding. Dat gebeurt op verzoek van de medewerker en is te allen tijde mogelijk.’ De door ons gesproken medewerkers laten ons echter zonder enige uitzondering weten dat ze zich met hun psychische problemen door Arvato in de steek gelaten voelen. Voldoende begeleiding was er niet en ook geen gerichte voorbereiding op de psychische belasting van het werken met verschrikkelijke beelden en video’s.
We moesten ervoor tekenen dat Arvato psychologische hulp aanbiedt, maar in de praktijk was het onmogelijk om begeleiding te krijgen. Ze hebben niets voor ons gedaan.
Een medewerkster had steeds weer geprobeerd een privéafspraak met de sociaal-pedagoog te maken. Daar moest ze lang op wachten. Uiteindelijk gaf ze het maar op
Dat werknemers ook tegen psychische belasting beschermd moeten worden, is sinds 2013 geregeld in de paragrafen 4 en 5 van de Duitse Arbeitsschutzgesetz (wet op de bescherming van arbeid): ‘Het gaat erom dat niet wordt afgewacht tot er gezondheidsschade optreedt, maar dat de risico’s al preventief zo veel mogelijk geminimaliseerd worden,’ vertelt Raphaél Callson, arbeidsrechtadvocaat bij advocatenkantoor DKA in Berlijn. Hij meent dat er mogelijk sprake is van overtreding van het arbeidsrecht wanneer content-moderators niet professioneel door medici worden begeleid: ‘De werkgever moet echt beschermingsmaatregelen nemen. Werknemers zouden bij een video of beeld dat schokkende voor hen is, het werk moeten mogen onderbreken en hierover met een altijd ter beschikking staand aanspreekpunt in gesprek gaan. Bij voorkeur met een aan een medisch beroepsgeheim gebonden arts.’ Geen van de Arvato-medewerkers weet van het bestaan van zo’n arts. Onze bronnen hebben het over een open groepsspreekuur waar zonder verdere vooraanmelding over problemen gesproken kon worden. Onder leiding van een sociaal-pedagoog, geen psycholoog, zeggen ze allemaal. Geen van de door ons gesproken werknemers is er ooit naar toe gegaan. Ze schrokken ervoor terug om in gezelschap van onbekende collega’s over hun intiemste problemen te praten.
Een medewerkster had steeds weer geprobeerd een privéafspraak met de sociaalpedagoog te maken. Daar moest ze lang op wachten. Uiteindelijk gaf ze het maar op. Op navraag van sz-magazin doet Facebook geen verdere mededelingen over de kwalificaties van de psychologische begeleiders – of over de vraag of deze aan een beroepsgeheim gebonden zijn.
Daar waar ik vandaan kom, zou zo’n sociaal werkster alles wat ik haar zou vertellen onmiddellijk doorbrieven aan mijn baas. En die zou me daarna ontslaan. Niemand in mijn team had ook maar enig vertrouwen in die lui – waarom zouden we hun dan onze zorgen toevertrouwen?
En dat terwijl er zeker goede voorbeelden zijn van omgang met mensen die in hun werk te maken hebben met gruwelijke mediaberichten. Bij de Duitse keuringsdienst van media die gevaar opleveren voor de jeugd worden ook schokkende video’s bekeken. De dienst geeft nieuwe medewerkers regelmatig scholing over de omgang met belastende inhoud. ‘Niemand hoeft dit soort films aan een stuk door aan te zien,’ zegt directeur Martina Hannak-Meinke. ‘Iedereen kan elk moment zijn werk onderbreken, iets anders gaan doen en later verdergaan.’ Er zijn privéafspraken mogelijk met sociaal medewerkers. Psychologen en traumaexperts zijn elk moment beschikbaar. Ook andere instanties waar medewerkers zeer belastend materiaal onderzoeken, hanteren strenge regels: zulke films mogen bijvoorbeeld maximaal acht uur per week bekeken worden of alleen in duo’s, zodat het effect direct besproken kan worden. Sommige stellen voor zulk werk uitsluitend speciaal opgeleide juristen aan.
Ik zat in mijn eigen land in het leger. Beelden van oorlog en dood doen mij niets. Wat mij nekt is de onvoorspelbaarheid. Eén video krijg ik maar niet uit mijn hoofd. Een seksfetisjvideo, waarin een vrouw op hoge hakken een klein poesje doodtrapt. Ik had nooit gedacht dat mensen tot zo iets in staat waren.
Deze kattenvideo moest gewist worden, het is een duidelijke overtreding van paragraaf 15.1 van de interne documenten die sz-magazin in handen heeft: ‘Seksueel sadisme is het erotische genot dat gevoeld wordt bij pijn van een levend wezen’ – bij Facebook dus niet toegestaan.
Het in praktijk toepassen van zulke regels vraagt te veel van de medewerkers. Sommigen vertellen dat ze op trainingen niet mee mochten schrijven, een voorzorgsmaatregel die moet voorkomen dat de geheime voorschriften openbaar worden.
De community-standards worden ook voortdurend gewijzigd. Vroeger was een foto van een afgesneden hoofd oké, zolang de snee maar recht liep. Wat is dat voor zinloze regel? En wie bepaalt dat?
In de communitystandards zit een hoofdstuk over haatboodschappen, waarin exact is vastgelegd welke beledigingen toegestaan zijn. Daar staat: ‘Oorspronkelijk wiste Facebook geen berichten waarin migranten doelwit waren, aangezien ze geen deel uitmaken van een beschermde categorie. Dat leidde tot negatieve berichtgeving over de richtlijnen van Facebook, waardoor de Duitse regering dreigde het werk van Facebook in Duitsland te stoppen. Dus hebben we de communitystandards aangepast, zodat ook migranten nu een zekere bescherming genieten.’ Aan de ene kant wordt hieruit duidelijk dat politiek en publieke druk van invloed zijn op de regels die Facebook hanteert. Aan de andere kant is dit bij uitstek een voorbeeld van wat het probleem is met bedrijven als Facebook: wat of wie in de samenleving bijzondere bescherming geniet, dient in Duitsland in de allereerste plaats te worden bepaald in de grondwet – en niet in het regelwerk van een bedrijf dat snel aangepast kan worden wanneer er imagoschade dreigt. Puur theoretisch: wat zou er gebeuren als de maatschappelijke opvattingen in de VS omslaan en de islam bij Facebook ineens minder bescherming geniet? Wanneer hetze tegen moslims minder streng vervolgd wordt dan tegen de in de geheime Facebook-documenten beschermde christenen, joden of mormonen? Het publiek zou het misschien nooit te weten komen. Zelfs de kleinste verandering in de communitystandards heeft een grote uitwerking op wat miljarden mensen op aarde elke dag te zien krijgen.
We zien zo veel leed – maar komen nooit te weten wat er met de mensen gebeurt die daar zijn afgebeeld. Hoe gaat het nu met die kinderen? En worden de daders opgepakt?
De door de Arvato-medewerkers onderzochte berichten zijn niet alleen strijdig met morele opvattingen, maar vaak ook met het Duitse recht. Hoe Facebook ten aanzien van onwettige bijdragen moet handelen, is complex. Naar Duits recht dient een platformaanbieder, zodra deze kennis neemt van of informatie heeft over een concrete onwettige handeling, deze onmiddellijk te wissen of de toegang daartoe te blokkeren, vertelt advocaat media- en IT-recht Bernhard Buchner. Anders lopen bedrijven als Facebook risico om zelf aansprakelijk te worden gesteld. Maar dat is nog niet alles: paragraaf 138 van het wetboek van strafrecht verplicht iedereen die op de hoogte is van een serieuze voorbereiding op een aantal genoemde strafbare feiten, dit aan te geven. Een bericht op Facebook waarin iemand overtuigend laat weten dat hij zijn klasgenoten dood wil schieten, moet dus niet alleen gewist, maar ook gemeld worden – bij de politie of bij de mensen die gevaar lopen.
Wat we wel weten is dat Facebook kinderporno’s doorstuurt naar het Amerikaanse National Center for Missing and Exploited Children (NCMEC). Alle bij de NCMEC binnenkomende tips worden daar geordend en doorgeleid aan de voor verder strafrechtelijk onderzoek verantwoordelijke autoriteiten in de VS of daarbuiten, deelt het Bundeskriminalamt (Duitse Openbaar Ministerie) op navraag van sz-magazin mee. Indien duidelijk is dat deze strafbare handelingen op Duits grondgebied zijn gepleegd, wordt de beschikbare informatie toegestuurd aan het Bundeskriminalamt.’ Of er naast kinderpornografie ook andere strafbare feiten via Facebook bij de Duitse autoriteiten terechtkomen? Dat vertelt Facebook niet.
Een van de foto’s die The Guardian in 2017 publiceerde over Facebooks criteria.
Er zijn bij Arvato vast mensen die bezorgd zijn over de manier waarop met de content-moderators wordt omgesprongen. Zij worden door Facebook met een toekomstvisie gepaaid: ooit zullen computers door kunstmatige intelligentie boodschappen kunnen identificeren die indruisen tegen de gebruiksvoorwaarden. Facebook, Google en Microsoft lieten onlangs weten dat ze terreurpropaganda van hun sites voortaan willen opslaan in een gemeenschappelijke databank en voorzien van een digitale vingerafdruk – zo kan een beeld dat bij Twitter werd gewist ook automatisch door Facebook worden verwijderd. Enerzijds is dit een denkbeeld dat hoopvol stemt: dan hoeven mensen niet langer blootgesteld te worden aan dit soort horror. Maar het is ook angstaanjagend: algoritmes beslissen over postings die miljarden mensen bij Facebook te zien krijgen. Een computer beslist over wat bruut is en wat niet, waar satire eindigt en waar terreur begint.
Ik weet dat iemand dit werk moet doen. Maar het moeten mensen zijn die daarop getraind worden en daarbij geholpen worden, die men niet zoals ons naar de klote laat gaan.
Steeds weer heb ik de volgende droom: mensen springen uit een brandend huis. Ze slaan te pletter tegen de grond. De een na de ander belandt in een plas van bloed. Ik sta beneden en probeer de mensen op te vangen, maar het zijn er te veel en ze zijn te zwaar, ik moet opzij springen zodat ze mij niet dodelijk verwonden. Om mij heen staan mensen, een heleboel mensen, die niet helpen. Maar alleen met hun mobieltjes aan het filmen zijn.
Tijdens ons onderzoek hebben we onze bronnen steeds weer gevraagd hoe het met hen ging. Eén man heeft zijn nachtmerries overwonnen, alleen overdag komen de beelden soms weer boven. Toen hij laatst op een trapje stond om een gloeilamp te verwisselen, keek hij omlaag – en zag plotseling voor zijn geestesoog de grond waartegen de vermeende homoseksuelen te pletter sloegen die door de beulen van is van het dak van een huis waren geduwd. Eén vrouw heeft Duitsland de rug toegekeerd en woont hier ver vandaan. Een andere vrouw kampt met de gedachte dat ze overal op het strand kinderverkrachters en in het park dierenschenders ziet. Ze werkt niet langer bij Arvato en heeft nu traumatherapie. Een andere man gaat op Duitse les en wil met het vak dat hij ooit geleerd heeft, iets opbouwen in Duitsland.
Niemand van degenen die nog bij Arvato werken, is van plan er te blijven.
Till Krause is hoofdredacteur van de Süddeutsche Zeitung, Hannes Grassegger is naast journalist ook schrijver van een boek dat in 2014 werd gepubliceerd: Das Kapital bin ich.
Beide auteurs hebben hun bronnen ook gevraagd of ze na al hun ervaringen in het wisteam privé nog op Facebook zitten. Vrijwel iedereen doet dat. ‘Het is gewoon een verslaving,’ zegt een van hen.
Het vrijdagsupplement van de SZ, en daarmee een van de grootste tijdschriften van Duitsland, samen met dat van Die Zeit. Veel interviews en veel (populaire) cultuur.
Deze website gebruikt cookies. Door de site te gebruiken gaan we er vanuit dat je ze accepteert. OK
Manage consent
Over onze cookies
Deze website gebruiks cookies die de gebruikservaring verbeteren. De cookies die we als noodzakelijk categoriseren worden opgeslagen door je browser en zijn essentiëel voor een goede werking van de basisfuncties van deze website. We gebruiken ook third-party cookies die ons helpen te analyseren hoe deze website gebruikt wordt. Deze cookies kunnen ook voor marketingdoeleinden worden gebruikt. Ze worden alleen door je browser opgeslagen als je daar toestemming voor geeft.
Onze noodzakelijke cookies zijn essentiëel voor het goed functioneren van deze website. De basisfuncties en beveiliging van deze website zijn hiervan afhankelijk. Deze cookies slaan geen persoonlijke informatie op.
