Na de Amerikaanse presidentsverkiezingen van 2016 beloofde Facebook plechtig om misbruik voor politieke doeleinden aan te pakken. Desondanks zijn politici nog steeds in staat om via Facebook het publiek te misleiden of tegenstanders lastig te vallen, ook als het bedrijf ervan weet.
Julia Carrie Wong, correspondent van The Guardian in San Francisco, beschrijft hoe The Guardian inzage kreeg in uitgebreide interne documentatie die laat zien hoe Facebook is omgegaan met politiek manipulatief gedrag in meer dan dertig gevallen in vijfentwintig landen. Dergelijk ‘niet-authentiek’ gedrag, zoals Facebook het zelf noemt en dat volgens de regels van het bedrijf ontoelaatbaar is, werd ontdekt én gemeld door personeel van Facebook, maar het bedrijf liet het na er iets mee te doen.
Uit het onderzoek door The Guardian blijkt dat Facebook misbruik van zijn platform toeliet in arme, kleine, niet-westerse landen, omdat het bedrijf prioriteit geeft aan misstanden die aandacht van de media trekken in rijke landen. Meer specifiek: Facebook handelde snel als het ging om politieke manipulatie in landen als de VS, Taiwan, Zuid-Korea en Polen, maar kwam langzaam of helemaal niet in actie als het gevallen betrof in Afghanistan, Irak, Mongolië, Mexico en een groot deel van Latijns-Amerika.
Fiasco
Na het historische fiasco van de Amerikaanse verkiezingen van 2016, toen Russische agenten niet-authentieke Facebook-accounts gebruikten om Amerikaanse kiezers te misleiden en tegen elkaar op te zetten, deed Facebook een plechtige belofte om door de staat gesteunde politieke manipulatie via het platform te bestrijden. Maar sindsdien heeft het bedrijf herhaaldelijk nagelaten om tijdig actie te ondernemen op momenten dat het werd geconfronteerd met bewijs van ongebreidelde manipulatie en misbruik door politieke leiders van over de hele wereld.
‘Er wordt veel schade aangericht via Facebook, waarop het bedrijf niet reageert omdat deze schade niet wordt beschouwd als een pr-risico’, aldus Sophie Zhang, voormalig datawetenschapper bij het bedrijf. Zhang werkte bij de zogenoemde ‘integriteitsafdeling’ van Facebook, die ongebruikelijk gedrag moet bestrijden. ‘De schade die wordt aangericht door manipulatie raakt niet Facebook, maar de rest van de wereld’, meent Zhang.
Facebook ontsloeg Zhang in september 2020 wegens ‘ondermaatse prestaties’. Op haar laatste dag publiceerde ze een afscheidsmemo van bijna zevenduizend woorden waarin ze beschreef hoe ze ‘meerdere flagrante pogingen van buitenlandse nationale regeringen had ontdekt om het platform op grote schaal te misbruiken ter misleiding van hun burgers’. Ze beschuldigt Facebook ervan die misstanden niet te hebben aangepakt. ‘Ik weet inmiddels dat ik bloed aan mijn handen heb’, schreef Zhang. Delen van haar memo werden vorig jaar september als eerste gepubliceerd door BuzzFeed News.
Ontoelaatbare activiteiten
Zhang treedt nu opnieuw naar voren in de hoop dat haar onthullingen Facebook zullen dwingen rekenschap af te leggen over de invloed die het bedrijf uitoefent op de wereld. ‘We hebben gezien dat verschillende presidenten ontoelaatbare activiteiten kennelijk zo waardevol vinden voor hun autocratische ambities, dat ze niet eens de moeite nemen om ze te verhullen’, zei Zhang tegen The Guardian.
‘Er is voor Facebook geen sterke prikkel om dit aan te pakken, behalve de angst dat iemand een boekje opendoet en veel ophef veroorzaakt. En dat is precies wat ik nu doen. Want de hele kwestie “niet-authentieke activiteit” speelt niet echt bij het bedrijf, en je kunt iets alleen maar verbeteren als je erkent dat het bestaat.’
‘Ik heb geprobeerd dit probleem binnen Facebook op te lossen (…) Ik sprak tot in detail met mijn manager, de manager van mijn manager, verschillende teams en iedereen tot aan een vicepresident van het bedrijf toe. Ik heb herhaaldelijk geprobeerd om mensen dingen recht te laten zetten (…) Ik bood aan om gratis aan te blijven nadat ze me hadden ontslagen, maar ze zeiden nee. Ik hoopte met mijn vertrekmemo mensen te kunnen overtuigen om dingen te veranderen, maar dat is niet gelukt.’
Liz Bourgeois, woordvoerder van Facebook, zegt in een reactie: ‘We zijn het fundamenteel niet eens met de karakterisering van mevrouw Zhang aangaande onze prioriteiten en inspanningen om misbruik op ons platform uit te bannen. We gaan agressief achter misbruik over de hele wereld en hebben gespecialiseerde teams die dit werk voor ons verrichten. Als gevolg hiervan hebben we meer dan honderd netwerken met gecoördineerd niet-authentiek gedrag verwijderd.’
‘Ongeveer de helft van die netwerken’, vervolgt de zegsvrouw, ‘betrof binnenlandse netwerken die actief waren over de hele wereld, in onder meer Latijns-Amerika, het Midden-Oosten, Noord-Afrika, en in de Aziatisch-Pacifische regio. Het is onze prioriteit om “gecoördineerd niet-authentiek” gedrag te bestrijden. We pakken ook de problemen rond spam en nepinteracties aan. We onderzoeken elk probleem voordat we actie ondernemen of er openbare uitspraken over doen.’
Het succesvol bespelen van het algoritme kan het verschil betekenen tussen een miljoenenpubliek of onzichtbaarheid
Met 2,8 miljard gebruikers speelt Facebook een dominante rol in het politieke discours van bijna elk land ter wereld. Maar de algoritmes en functies van het platform kunnen worden gemanipuleerd om het politieke debat te sturen of te verstoren. Dit kan bijvoorbeeld met nepinteracties zoals likes, opmerkingen, deelacties en reacties die worden geplaatst door ‘niet-authentieke’ of gecompromitteerde Facebook-accounts.
Daarmee kan de publieke perceptie van de populariteit van een politieke leider worden gestuurd. Daarnaast kunnen nepinteracties van invloed zijn op het o zo belangrijke algoritme dat de berichtenstroom van Facebook, de newsfeed, bepaalt. Het succesvol bespelen van dat algoritme kan het verschil betekenen tussen een miljoenenpubliek of onzichtbaarheid.
Zhang werd in januari 2018 door Facebook ingehuurd en toegevoegd aan een team dat zich bezighoudt met het uitroeien van nepinteracties. Ze ontdekte dat de overgrote meerderheid van nepactiviteit zich voordeed in berichten van individuen, bedrijven of merken, maar ook in wat Facebook ‘maatschappelijke’, dat wil zeggen: politieke, accounts noemt.
Honduras
Het meest schaamteloze voorbeeld is dat van Juan Orlando Hernández, de president van Honduras. In augustus 2018 betroffen maar liefst 90 procent van alle nepinteracties de president van het Midden-Amerikaanse land. Zhang ontdekte in die maand bewijs dat personeel van Hernández rechtstreeks betrokken was bij een campagne om de status van zijn Facebookaccount op te krikken met honderdduizenden neplikes.
Een van de beheerders van de officiële Facebook-pagina van Hernández beheerde ook honderden andere pagina’s die leken op gewone gebruikersprofielen. De stafmedewerker gebruikte deze namaakpagina’s om berichten van Hernández te voorzien van likes, als een digitaal equivalent van het optrommelen van een ingehuurde menigte voor een toespraak.
Deze methode om nepbetrokkenheid te verwerven, die Zhang ‘Pages-misbruik’ noemt, is mogelijk door een maas in het beleid van Facebook. Het bedrijf vereist dat gebruikersaccounts authentiek zijn en verbiedt gebruikers meer dan één account te hebben, maar dat geldt niet voor Facebook Pages, de profielen voor bedrijven, organisaties of publieke figuren. Met Facebook Pages kunnen veel handelingen worden verricht die ook met gewone accounts mogelijk zijn, zoals liken, delen en reageren.
Deze mogelijkheid bleef open door een gebrek aan handhaving, en het lijkt erop dat de optie momenteel wordt gebruikt door de regerende partij van Azerbeidzjan om miljoenen intimiderende opmerkingen te verspreiden op de Facebook-pagina’s van onafhankelijke nieuwskanalen en Azerbeidzjaanse oppositiepolitici.
Niet-authentiek gedrag
Dergelijk misbruik van Facebook Pages lijkt op wat het Russische Internet Research Agency deed tijdens de Amerikaanse verkiezingen van 2016, toen het Facebook-accounts aanmaakte die zogenaamd van Amerikaanse burgers waren. Deze accounts werden gebruikt om individuen te manipuleren en politieke debatten te beïnvloeden. Facebook noemt dit ‘gecoördineerd niet-authentiek gedrag‘ (‘coordinated inauthentic behavior’ – CIB) en heeft een eliteteam van onderzoekers, zogenaamde ‘dreigingsontregelaars’, belast met de opdracht om dergelijk gedrag op te sporen en te verwijderen. In maandelijkse rapporten bericht Facebook nu over CIB-campagnes die worden ontdekt, en volgens het bedrijf worden nepaccounts en namaak-Pages verwijderd.
Maar de ‘dreigingsontregelaars’ en tal van Facebook-managers en leidinggevenden deden aanvankelijk geen onderzoek naar misbruik in Honduras en Azerbeidzjan, ondanks bewijzen dat het misbruik in beide gevallen verband hield met de nationale regering. ‘Ik denk niet dat Honduras hier erg speelt voor de mensen’, zei een manager tegen Zhang.
Onder de bedrijfsleiders die Zhang over haar bevindingen informeerde, bevonden zich Guy Rosen, vicepresident van de integriteitsafdeling; Katie Harbath, de voormalige directeur openbaar beleid voor verkiezingen wereldwijd; Samidh Chakrabarti, het toenmalige hoofd van de afdeling burgerlijke integriteit en David Agranovich, de leider van het wereldwijde team van ‘dreigingsontregelaars’.
Beide gevallen waren bijzonder zorgwekkend vanwege de aard van de betrokken politieke leiders. Hernández werd in 2017 herkozen in een verkiezingsstrijd die wijd en zijd als frauduleus werd aangemerkt. Zijn regering wordt gekenmerkt door beschuldigingen van ongebreidelde corruptie en schendingen van de mensenrechten. Azerbeidzjan is een autoritair land zonder persvrijheid of vrije verkiezingen.
Op vragen aan de persvoorlichter, advocaat en minister van Transparantie van Hernández werd niet gereageerd. De YAP, de regerende partij van Azerbeidzjan, ontkende na publicatie van dit artikel op 6 maart via zijn Pages intimiderende opmerkingen te hebben gepost op de Facebook-pagina van nieuwskanaal Azad Soz.
‘We moeten van bovenaf beginnen (toplanden, gebieden met topprioriteit, invloedrijke zaken, enz.) en vandaar naar beneden werken’
Facebook had er bijna een jaar voor nodig om het Honduras-netwerk uit te schakelen en veertien maanden om de Azerbeidzjaanse campagne te verwijderen. In beide gevallen heeft Facebook vervolgens het misbruik doodleuk laten terugkeren. Facebook zegt dat het handmatige en geautomatiseerde detectiemethoden gebruikt om eerdere gevallen van CIB-handhaving in de gaten te houden en dat het ‘continu’ accounts en pagina‘s verwijdert die zijn verbonden aan eerder verwijderde netwerken. De langdurige vertragingen zouden grotendeels het gevolg zijn van het prioriteitssysteem van Facebook om het politieke discours en verkiezingen te beschermen.
‘We hebben letterlijk honderden of duizenden soorten van misbruik (dat betekent in ieder geval werkzekerheid op onze integriteitsafdeling, hè!?),’ liet Rosen aan Zhang weten in een chat van april 2019, nadat ze had geklaagd over het gebrek aan actie tegen Honduras. ‘Daarom moeten we van bovenaf beginnen (toplanden, gebieden met topprioriteit, invloedrijke zaken, enz.) en vandaar naar beneden werken.’
Zhang vertelde Rosen in december 2019 dat haar was meegedeeld dat de afdeling ‘dreigingsontregeling’ alleen prioriteit zou geven aan het onderzoeken van verdachte CIB-netwerken in ‘de VS / West-Europa en buitenlandse tegenstanders zoals Rusland / Iran / enz.’ Rosen onderschreef dat: ‘Ik denk dat dat de juiste priorisering is.’
Zhang voegde tientallen uitbreidingen toe het taakbeheersysteem van Facebook om het dreigingsinformatieteam te waarschuwen voor netwerken van nepaccounts of Pages die het politieke discours verstoorden in onder meer Albanië, Mexico, Argentinië, Italië, de Filippijnen, Afghanistan, Zuid-Korea, Bolivia, Ecuador, Irak, Tunesië, Turkije, Taiwan, Paraguay, El Salvador, India, de Dominicaanse Republiek, Indonesië, Oekraïne, Polen en Mongolië.
Die netwerken voldeden vaak niet aan de prioriteitencriteria van Facebook wat betreft CIB-verwijderingen. Anders gezegd: Facebook liet ze begaan. En dat terwijl hun activiteiten niet in overeenstemming waren met het beleid van het bedrijf. Ze hadden moeten worden verwijderd.
In sommige gevallen die Zhang ontdekte, waaronder die in Zuid-Korea, Taiwan, Oekraïne, Italië en Polen, ondernam Facebook snel actie, resulterend in onderzoeken door het dreigingsinformatieteam en, in de meeste gevallen, leidend tot het verwijderen van niet-authentieke accounts.
Donald Trump
In andere gevallen stelde Facebook het ondernemen van actie maandenlang uit. Toen Zhang in oktober 2019 een netwerk van nepaccounts ontdekte die nepinteractie creëerden voor politici in de Filippijnen, liet Facebook die langzaam uitdoven. Maar toen een klein onderdeel van datzelfde netwerk in februari 2020 een onbeduidende hoeveelheid nepbetrokkenheid begon te creëren op de Page van Donald Trump, ging het bedrijf snel over tot actie om deze te verwijderen. In een aantal andere gevallen ondernam Facebook helemaal geen actie.
Een onderzoeker van het team van dreigingsontregelaars vond bewijs dat een Albanees netwerk, dat massaal niet-authentieke commentaren produceerde, in verband kon worden gebracht met personen in de regering, maar liet de zaak vervolgens gaan.
Een Boliviaans netwerk van nepaccounts ter ondersteuning van een presidentskandidaat in de aanloop naar de betwiste algemene verkiezingen van oktober 2019, werd volledig genegeerd. Honderden niet-authentieke accounts die deze presidentskandidaat ondersteunden bleven actief na de laatste werkdag van Zhang in september 2020. Netwerken in Tunesië en Mongolië werden evenmin onderzocht, ondanks dat er verkiezingen waren in Tunesië en Mongolië in een constitutionele crisis verkeerde.
“We hebben deze persoon betrapt op het beroven van een bank. Dat mag echt niet, hoor”
Te midden van massale protesten en een politieke crisis in Irak in 2019, vroeg de Irak-specialist van Facebook om prioriteit te geven aan twee netwerken die Zhang vond. Een onderzoeker was het ermee eens dat de accounts moesten worden verwijderd, maar niemand voerde ooit een handhavingsactie uit, en op haar laatste werkdag ontdekte Zhang dat ongeveer zeventienhonderd nepaccounts die een politieke figuur in het land te steunen nog altijd actief waren.
Uiteindelijk is Facebook zeer terughoudend als het erom gaat machtige politici te straffen. En als het bedrijf wel handelt zijn de gevolgen vaak te mild, zo stelt Zhang. ‘Stel, je hebt met succes een bank beroofd. Je straf is dat je gereedschap voor bankovervallen in beslag wordt genomen en er komt een openbare mededeling in de krant waarin staat: “We hebben deze persoon betrapt op het beroven van een bank. Dat mag echt niet, hoor.” Dat is in wezen wat er bij Facebook gebeurt. Het gevolg daarvan is, dat meerdere regeringsleiders hebben besloten dat dit een acceptabel risico is. In deze analogie is het geld al uitgegeven. Het kan niet meer worden opgeëist.’
Op haar laatste werkdag bekeek ze de lijst met openstaande taken die ze had ingediend over nog actieve netwerken van niet-authentieke accounts en liet ze notities achter voor mensen waarvan ze hoopte dat die haar werk na haar vertrek zouden oppakken. Er waren nog steeds tweehonderd verdachte accounts die een politicus in Bolivia steunden, legde ze vast; honderd in Ecuador, vijfhonderd in Brazilië, zevenhonderd in Oekraïne, zeventienhonderd in Irak, vierduizend in India en meer dan tienduizend in Mexico.
