Een onderzoek in de Verenigde Staten naar coaches in het vrouwenvoetbal brengt een ‘systematische’ praktijk van emotionele mishandeling en seksueel misbruik aan het licht, bericht NBC. Het 172 pagina’s tellende onafhankelijke rapport, dat in opdracht van de US Soccer Federation (USSF) is opgesteld en maandag is vrijgegeven, is gebaseerd op getuigenissen van meer dan tweehonderd spelers.
‘Hoe vaak moeten we dit soort rapporten nog lezen?’
Het onderzoek, geleid door voormalig procureur-generaal Sally Yates en het advocatenkantoor King & Spalding, geeft details over misbruik door coaches evenals manipulatie, pesterijen en vergelding tegen spelers die zich uitspraken. Volgens het rapport hebben de clubs, de competitieleiding en de Amerikaanse voetbalbond ‘herhaaldelijk niet adequaat gereageerd op klachten van spelers’.
‘Hoe vaak moeten we dit soort rapporten nog lezen?’ vraagt Washington Post-verslaggeefster Sally Jenkins zich af in een column, waarin ze oproept tot ‘federale sancties tegen topfunctionarissen van sportorganisaties voor het niet beschermen van atleten’.
Robert Mercer, een computerwetenschapper die banden heeft met Donald Trump, Steve Bannon en Nigel Farage, is de spin in het web van een rechts propagandanetwerk. Zo is hij verbonden aan Cambridge Analytica, een bedrijfje dat kiezers gericht bestookt via Facebook. ‘Het is hersenspoelen. Het is ongekend gevaarlijk.’
Onlangs ontbood Donald Trump leden van de wereldpers, om hen vervolgens voor leugenaars uit te maken. ‘De pers is volkomen dolgedraaid,’ zei hij. ‘De mensen geloven jullie niet langer.’ CNN werd omschreven als ‘nepnieuws… het ene na het andere slechte artikel’. De BBC was ‘al niet veel beter’.
Die avond heb ik twee dingen gedaan. Eerst heb ik ‘Trump’ ingetikt in het zoekvak van Twitter. Op mijn eigen feed viel te lezen dat Trump gestoord was, een gek, dat hij raasde en tierde. Maar niet overal werd het zo geïnterpreteerd. Ik zag een hele reeks berichten met: ‘Go, Donald!!!!’, of met: ‘Zeg ze maar eens flink de waarheid!!!!’ Ik zag emoji’s van de Amerikaanse vlag of opgestoken duimen, ik zag video’s waarin Trump van leer trekt tegen ‘de liegende mainstreammedia met hun NEPnieuws!’
Trump had gesproken en zijn publiek had de boodschap opgepikt. Vervolgens deed ik wat ik nu al tweeënhalve maand doe: ik googelde ‘de mainstreammedia zijn…’ En daar kwam het. Google vulde automatisch aan: ‘de mainstreammedia zijn… dood, op sterven na dood, nepnieuws, nep, afgeschreven.’ Zijn de mainstreammedia inderdaad ten dode opgeschreven, vroeg ik me af? Is het nepnieuws als winnaar uit de strijd gekomen? Zijn wij nu nepnieuws? Zijn de mainstreammedia – wij, ik – op sterven na dood?
Hedgefondsmiljardair
Ik klik op de eerste link die Google geeft. Die leidt me naar een website van CNSnews.com, met daarop het volgende artikel: ‘De mainstreammedia zijn afgeschreven.’ Ze zijn afgeschreven, lees ik, omdat ze – wij, ik – ‘niet te vertrouwen zijn’. Hoe is het mogelijk dat een of andere duistere site waarvan ik nog nooit heb gehoord, Googles zoekalgoritme over dit onderwerp domineert? Onder de ‘Over ons’-knop staat te lezen dat CNS News onderdeel uitmaakt van het Media Research Center, en nog een klik later lees ik dat dit ‘de mediawaakhond van Amerika’ is, een organisatie die zich laat voorstaan op ‘zijn niet-aflatende inzet om een tegenwicht te bieden aan de linkse vooringenomenheid in nieuws, media en populaire cultuur’.
Nog een paar klikken later kom ik tot de ontdekking dat de financiering van de site – en dan gaat het om meer dan 10 miljoen dollar in de afgelopen tien jaar – goeddeels afkomstig is van één enkele bron, en wel de hedgefondsmiljardair Robert Mercer. Voor wie de Amerikaanse politiek volgt zal dit geen onbekende zijn. Robert Mercer is het grote geld achter Donald Trump. Maar vervolgens zal ik tot de ontdekking komen dat Robert Mercer het grote geld is achter nog veel meer. Hij was Trumps belangrijkste geldschieter. Mercer steunde aanvankelijk Ted Cruz, maar toen Cruz zich terugtrok uit de race om het Witte Huis heeft Mercer zijn geld – 13,5 miljoen dollar – in de Trump-campagne gestoken.
Het is geld dat hij heeft verdiend tijdens zijn carrière als briljante maar eenzelvige computerwetenschapper. Hij begon zijn loopbaan bij IBM, waar hij verantwoordelijk was voor ‘revolutionaire’ doorbraken op het gebied van programmeertalen – een vakgebied dat van essentieel belang is gebleken voor de ontwikkeling van de kunstmatige intelligentie zoals wij die nu kennen. Later werd hij een van de CEO’s van Renaissance Technologies, een hedgefonds dat zijn geld verdient met het opstellen van algoritmen voor de handel op de financiële markten. Een van zijn fondsen, Medallion, dat alleen het geld van de eigen werknemers beheert, behoort tot de meest succesvolle ter wereld – tot nog toe heeft het 55 miljard dollar gegenereerd. Sinds 2010 heeft Mercer 45 miljoen dollar gedoneerd aan verschillende politieke campagnes – uitsluitend van Republikeinen – en nog eens 50 miljoen aan non-profitorganisaties – allemaal rechts en ultraconservatief. We hebben het hier over een miljardair die, zoals miljardairs gewoon zijn, probeert de wereld te vormen naar zijn eigen inzichten.
Robert Mercer spreekt zelden in het openbaar en hij spreekt al helemaal nooit met journalisten, dus om een beeld te krijgen van zijn opvattingen moet je kijken waaraan hij zijn geld spendeert: een aantal jachten, allemaal Sea Owl geheten, een modeltreinemplacement van 2,9 miljoen dollar en initiatieven die de klimaatverandering ontkennen (hij financiert een denktank die zich daarmee bezighoudt, het zogeheten Heartland Institute). Tot slot steekt hij geld in wat misschien wel het ultieme speeltje is van de man die zwemt in het geld: het onderuithalen van de mainstreammedia. Hierin wordt hij bijgestaan door zijn bondgenoot Steve Bannon, Trumps campagnemanager en inmiddels chef-strateeg. Het geld dat Mercer schenkt aan het Media Research Center, dat een tegenwicht zou willen bieden aan ‘linkse vooringenomenheid’, is slechts een voorbeeld van zijn inmenging in de media. Er zijn bredere strategieën, die tevens doelgerichter zijn. De stralende ster die hoog aan het Mercer- mediafirmament prijkt, is Breitbart.
Dankzij 10 miljoen dollar van Mercer was Bannon destijds in staat Breitbart in het leven te roepen – een rechtse nieuwssite, die is opgezet vanuit de nadrukkelijke wens een rechtse Huffington Post het licht te doen zien. De site biedt regelmatig een podium aan mensen met een antisemitische of islamofobe visie. Na een campagne van activisten wordt Breitbart inmiddels geboycot door zo’n duizend verschillende merken.
De vooraanstaande rechtse journalist Andrew Breitbart, die de site heeft opgezet maar in 2012 is overleden, zei destijds tegen Bannon dat ze ‘de maatschappij moesten terugveroveren’. Je zou kunnen zeggen dat Breitbart daarin is geslaagd, al lijkt de Amerikaanse maatschappij slechts het begin. In 2014 ging Breitbart London online, heel bewust vóór de Britse verkiezingen, liet Bannon The New York Times weten. Hij noemde Breitbart London het nieuwste front ‘in onze huidige culturele en politieke strijd’. Hierna zullen Frankrijk en Duitsland volgen.
Cambridge Analytica
Maar de naam Robert Mercer deed bij mij ook nog een ander belletje rinkelen. Mercer is verbonden aan Cambridge Analytica, een klein bedrijfje dat data analyseert. Naar verluidt heeft hij 10 miljoen dollar gestoken in het bedrijf, dat een dochteronderneming is van een groter Brits bedrijf, de SCL Group. Het bedrijf is gespecialiseerd in ‘verkiezingsmanagementstrategieën’ en ‘communicatie- en informatieprocessen’. In de afgelopen 25 jaar heeft het bedrijf in landen als Afghanistan en Pakistan de werkwijze verfijnd. In militaire kringen staan dit soort activiteiten bekend als psyops – psychologische operaties. (Massapropaganda die effect sorteert door in te spelen op de emoties van de mensen.)
Cambridge Analytica werkte voor de Trump- campagne en ook, las ik, voor de Leave-campagne in Groot-Brittannië. Toen Mercer zich achter Cruz schaarde, ging Cambridge Analytica met hem in zee. Toen Robert Mercer zich achter Trump schaarde, ging Cambridge Analytica mee. En waar Mercers geld opduikt, is Steve Bannon meestal niet ver weg: hij schijnt tot voor kort in de raad van bestuur te hebben gezeten.
Afgelopen december schreef ik over Cambridge Analytica in een artikel over de zoekresultaten die Google geeft, en die bij sommige onderwerpen worden aangevoerd door rechtse en extremistische sites. Jonathan Albright, hoogleraar Communicatie aan Elon University in North Carolina, de man die het nieuwsecosysteem in kaart heeft gebracht, was op miljoenen verbindingen gestuit tussen verschillende rechtse sites die de mainstreammedia ‘aanvallen’. Hij vertelde me dat trackers van sites als Breitbart ook kunnen worden ingezet door bedrijven als Cambridge Analytica, om mensen te volgen op hun omzwervingen op internet en om hen vervolgens, via Facebook, te bestoken met advertenties.
Tot mijn verbijstering las ik op de website van Cambridge Analytica dat het bedrijf er prat op gaat over de psychologische profielen te beschikken van 220 miljoen Amerikaanse kiezers, gebaseerd op vijfduizend separate gegevens – hun unique selling point is dat ze deze gegevens kunnen gebruiken om de diepste drijfveren van mensen te achterhalen en hen vervolgens gericht te bestoken. Dit systeem komt feitelijk neer op een ‘propagandamachine’, aldus Albright.
Een paar weken later werd er een brief bezorgd bij The Observer. Cambridge Analytica is nooit ingeschakeld door de Leave-campagne, staat er te lezen. Cambridge Analytica ‘is een in de VS opgericht bedrijf dat is gevestigd in de VS. Het heeft zich niet actief beziggehouden met de Britse politiek.’
Zo kwam het dat ik afgelopen week ineens in een koffietentje in de buurt van Westminster zat, met Andy Wigmore, de innemende man die hoofd Communicatie is van Leave.EU. We kijken naar snapshots van Trump op zijn telefoon. Wigmore is degene die het bezoek van Nigel Farage aan de Trump Tower heeft geregeld – de pr-stunt waardoor Farage als eerste buitenlandse politicus de aanstaande president de hand mocht schudden.
Wigmore scrolt door de foto’s op zijn telefoon. ‘Deze heb ik gemaakt,’ zegt hij, en hij wijst op de inmiddels wereldberoemde foto van Farage en Trump voor de gouden liftdeuren, beiden met een opgestoken duim.
Cambridge Analytica heeft voor hen gewerkt, zegt hij. Het bedrijf heeft hun geleerd hoe ze profielen moeten aanmaken, hoe ze mensen gericht kunnen benaderen en hoe ze allerlei data kunnen genereren op grond van Facebookprofielen.
Facebook was de sleutel tot de hele campagne, vertelt Wigmore. Een like op Facebook, legt hij uit, was hun ‘krachtigste wapen’. ‘Want door gebruik te maken van kunstmatige intelligentie, zoals wij dat hebben gedaan, kom je van alles en nog wat aan de weet over mensen, en kom je erachter met wat voor advertentie je iemand over de streep kunt trekken. En je weet dat er ook andere mensen in hun netwerk zitten die wat zij leuk vinden ook weer leuk vinden, en zo kun je het verbreden. Je volgt al die mensen. De computer gaat continu door met leren en met volgen.’
Klinkt griezelig, zeg ik. “Dat is het ook! Het is doodgriezelig! Daarom zit ik ook niet op Facebook!”
Klinkt griezelig, zeg ik.
‘Dat is het ook! Het is doodgriezelig! Daarom zit ik ook niet op Facebook! Ik heb het op mezelf uitgeprobeerd om te kijken wat het systeem allemaal over me wist, en ik had echt zoiets van: “O, mijn God!” Het enge is dat mijn kinderen dingen op Instagram hadden gezet en dat dat ook was opgepikt. Het systeem wist waar mijn kinderen op school zitten.’
Ze hebben Cambridge Analytica nooit ‘ingehuurd,’ zegt hij. Er is geen geld over tafel gegaan. ‘Ze wilden ons met alle plezier helpen.’
Waarom?
‘Omdat Nigel een goede vriend is van de Mercers. En Robert Mercer heeft ze aan ons voorgesteld. Hij zei: “We denken dat jullie wel iets aan hun diensten kunnen hebben.” Er waren grote overeenkomsten tussen wat zij probeerden te doen in de Verenigde Staten en wat wij hier probeerden te doen. Samen beschikten we over ongekende hoeveelheden informatie. Dus waarom zouden we onze krachten niet bundelen?’ De mensen achter de Trump-campagne en de mensen van Cambridge Analytica waren ‘dezelfde mensen’, zegt hij. ‘Eén grote familie.’
De afgelopen maand hebben eerst Zwitserse en vervolgens Amerikaanse media zich afgevraagd wat Cambridge Analytica precies met al die gegevens van Amerikaanse kiezers doet. Het bedrijf ging niet in op de vraag hoe het psychometrische model tot stand komt, geënt op onderzoek van het Psychometric Centre van de Universiteit van Cambridge, dat weer was gebaseerd op een persoonlijkheidstest op Facebook die viraal is gegaan. Uiteindelijk hebben meer dan zes miljoen mensen de vragenlijst ingevuld, wat een ontstellende schat aan data opleverde. Die Facebookprofielen – met name de ‘likes’ – kunnen worden gelinkt aan miljoenen andere, wat tot griezelig precieze resultaten leidt. Michal Kosinski, die aan het hoofd staat van het wetenschappelijk team van het Psychometric Centre, constateerde dat het centrum met de kennis van honderdvijftig likes meer over iemands persoonlijkheid kon zeggen dan zijn of haar partner. Met driehonderd likes begreep het centrum jou beter dan jij jezelf begrijpt. ‘Computers hebben een duidelijker omlijnd beeld van ons dan wijzelf,’ zegt Kosinski.
Maar wat je met deze data kunt doen, is aan strikte ethische regelgeving gebonden. Had de SCL Group toegang tot het model of tot de data van de universiteit, vraag ik professor Jonathan Rust, de directeur van het centrum. ‘Als ze dat al hadden, dan was het niet via ons,’ zegt hij. ‘Wij hanteren daar heel strenge regels voor.’
Aleksandr Kogan, een wetenschapper die ook aan het centrum is verbonden, is gevraagd een model te ontwikkelen voor SCL, en hij zegt dat hij zijn eigen data heeft vergaard. Professor Rust zegt niet te weten waar Kogan zijn data vandaan heeft. Maar Rust begrijpt als geen ander hoe het soort informatie dat mensen uit eigen vrije wil prijsgeven op social media kan worden gebruikt. ‘Het is duidelijk wat het gevaar is van het ontbreken van regelgeving omtrent het soort informatie dat je van Facebook en dergelijke kunt halen. Met deze gegevens kan een computer psychologisch inzicht verkrijgen, menselijk gedrag voorspellen en dat mogelijk sturen. Het is wat de Scientology Church probeert te doen, maar dan veel krachtiger. Het is de manier om mensen te hersenspoelen. Het is ongekend gevaarlijk.’
‘Het is niet overdreven om te zeggen dat je iemands gedachten kunt veranderen,’ vervolgt Rust. ‘Gedrag kan worden voorspeld en gestuurd. Ik vind het allemaal doodeng, echt. Maar niemand heeft echt goed nagedacht over de mogelijke consequenties. Mensen realiseren zich niet dat het ook voor hen geldt. Zonder dat ze het zich bewust zijn, wordt hun kijk op de dingen beïnvloed.’
Dat Mercer heeft geïnvesteerd in Cambridge Analytica is volgens The Washington Post ‘deels vanuit een overtuiging dat rechts over onvoldoende moderne technologische middelen beschikte’. Maar wat het moederbedrijf van Cambridge Analytica doet, roept in zekere zin nog veel meer vragen op.
Emma Briant, propagandaspecialist aan de Universiteit van Sheffield, schreef over de SCL Group in haar in 2015 verschenen boek Propaganda and Counter-Terrorism: Strategies for Global Change. Cambridge Analytica beschikt over de technologische middelen om veranderingen te bewerkstelligen in zowel denken als gedrag, zegt ze, maar het is SCL dat de technologie in kwestie ook echt strategisch inzet. SCL heeft zich op het hoogste niveau – denk aan de NAVO, het Britse ministerie van Defensie, het Amerikaanse ministerie van Buitenlandse Zaken – gespecialiseerd in het beïnvloeden van het gedrag van grote groepen mensen. Het brengt massapopulaties in kaart en verandert vervolgens hun overtuigingen.
SCL is opgericht door ene Nigel Oakes, die destijds namens Saatchi & Saatchi aan het imago van Margaret Thatcher werkte, aldus Briant. Het bedrijf heeft ‘lange tijd goed verdiend aan de propagandakant van de war on terror. SCL heeft verschillende takken, maar in alle geledingen gaat het om bereik en om de mogelijkheid het debat te bepalen. Men probeert bepaalde politieke narratieven te versterken. En SCL is zeer selectief in voor wie er wordt gewerkt: dit doet men niet voor links.’
Vrijwel de gehele Amerikaanse bevolking
Tijdens de Amerikaanse verkiezingen legde Cambridge Analytica naar eigen zeggen een database aan die vrijwel de gehele Amerikaanse bevolking bestreek – 220 miljoen mensen. The Washington Post schreef onlangs dat SCL bezig is extra personeel te werven voor de vestiging in Washington, en dat het bedrijf op weg is een aantal lucratieve contracten met de regering-Trump in de wacht te slepen. ‘Het lijkt veelzeggend dat een bedrijf dat zich richt op het beïnvloeden van de uitkomst van een politiek proces garen spint bij het resultaat daarvan. Al helemaal wanneer het gaat om het manipuleren, en vervolgens consolideren, van angst,’ zegt Briant.
Het is met name die database, en wat daar vervolgens mee kan gebeuren, die Paul-Olivier Dehaye zorgen baart. Deze Zwitserse wiskundige en data-activist doet al ruim een jaar onderzoek naar Cambridge Analytica en SCL. ‘Hoe gaat dit allemaal gebruikt worden?’ zegt hij. ‘Gaat dit gebruikt worden om mensen te manipuleren in de binnenlandse politiek? Of om conflicten tussen verschillende gemeenschappen aan te wakkeren? In potentie is het allemaal doodeng. Mensen realiseren zich niet hoe machtig deze data zijn, en hoe ze tegen hen gebruikt kunnen worden.’
In theorie kunnen er twee dingen tegelijkertijd plaatsvinden: het manipuleren van informatie op massale schaal, en het manipuleren van informatie op strikt persoonlijk niveau. Dit alles gebaseerd op de nieuwste wetenschappelijke inzichten over hoe mensen in elkaar steken, en mogelijk gemaakt door technologische platforms die zijn bedoeld om ons nader tot elkaar te brengen.
Leven we in een nieuw propagandatijdperk? vraag ik Emma Briant. Propaganda die we niet kunnen zien en die ons in zijn greep heeft op manieren die we niet kunnen bevatten? Waarin we niets anders kunnen, op emotioneel vlak, dan reageren op berichten? ‘Zonder meer. Door de technologie kan men dieper doordringen in ons bestaan, en het vergaren van data en het gebruik ervan gaat geraffineerder in zijn werk dan ooit. Het onttrekt zich volledig aan ons blikveld. Mensen hebben geen idee wat er speelt.’
Zowel de publieke opinie als de politiek doorlopen cycli. Je hoeft geen aanhanger te zijn van complottheorieën, zegt Briant, om te zien dat er een enorme omwenteling plaatsvindt waar het de publieke opinie betreft. Of om te zien dat sommige van de technieken die worden gehanteerd rechtstreeks zijn ontleend aan de werkwijze van het leger of van SCL.
Er zijn steeds meer bewijzen dat onze openbare podia – de social media, waar we onze vakantiekiekjes posten of commentaar leveren op het nieuws – een nieuw strijdtoneel vormen waar, in realtime, de internationale geopolitieke strijd wordt uitgevochten. Het is een nieuw tijdperk van propaganda. Maar wiens propaganda? Rusland heeft onlangs laten weten een nieuwe legereenheid te hebben opgericht: de ‘informatiestrijdtroepen’.
Sam Woolley van de afdeling Computational Propaganda van het Oxford Internet Institute weet me te vertellen dat een derde van al het Twitterverkeer voorafgaand aan het Britse EU-referendum afkomstig was van geautomatiseerde ‘bots’ – accounts die zo zijn geprogrammeerd dat ze lijken op mensen, zich gedragen als mensen, de discussie een bepaalde kant op sturen, bepaalde topics trending maken. En die bots waren allemaal voor Leave. Voorafgaand aan de Amerikaanse verkiezingen waren vier op de vijf bots voor Trump – en daarvan waren er vele Russisch.
Bio-psycho-social profiling, lees ik later, is een van de offensieven in wat wel ‘de cognitieve oorlog’ wordt genoemd. Er zijn nog veel meer offensieven, zoals cognitive casualty – een ‘morele shock’ die een ‘ontwrichtend effect zal hebben op de empathie en op hogere processen zoals het morele oordeelsvermogen en het vermogen tot kritisch denken.’
Hoe verander je de manier van denken van een heel land? Je zou kunnen beginnen met het oprichten van een belangrijk nieuwskanaal om de bestaande mainstreammedia naar de achtergrond te dringen, zoals de website Breitbart. Je zou andere sites kunnen opzetten om bestaande bronnen van nieuws en informatie in diskrediet te brengen met je eigen definities van concepten als ‘vooringenomen linkse media’ – denk aan cnsnews.com. En je zou de overgebleven mainstreammedia, kranten zoals de ‘falende New York Times!’ kunnen geven wat ze willen: verhalen. Want de derde poot van het media-imperium van Mercer en Bannon is het Government Accountability Institute (GAI).
Toen Trump later Mercer en Cambridge Analytica erbij haalde, lagen de kaarten weer even anders. ‘Het draait allemaal om emoties,’ zegt Woolley. ‘Dat is het grote verschil met wat wij deden. Bio-psycho-social profiling wordt dit genoemd. Er wordt gekeken naar allerlei fysieke, mentale en lifestyleaspecten, en op grond daarvan wordt duidelijk hoe mensen in elkaar zitten, hoe ze emotioneel reageren.’
‘Vandaag de dag zul je geen Watergate meer zien, en geen Pentagon Papers, omdat niemand het zich meer kan veroorloven een journalist zeven maanden lang aan een verhaal te laten werken. Wij kunnen dat wel. Wij hebben een ondersteunende taak’
Bannon is een van de medeoprichters van dit instituut, met 2 miljoen dollar van Mercer. Mercers dochter, Rebekah, werd benoemd in het bestuur. Vervolgens werd er geïnvesteerd in dure, diepgravende onderzoeksjournalistiek. ‘De moderne economie van de nieuwsredactie laat geen ruimte meer voor gedegen onderzoeksjournalistiek,’ zei Bannon tegen zakenblad Forbes. ‘Vandaag de dag zul je geen Watergate meer zien, en geen Pentagon Papers, omdat niemand het zich meer kan veroorloven een journalist zeven maanden lang aan een verhaal te laten werken. Wij kunnen dat wel. Wij hebben een ondersteunende taak.’
Zie hier de toekomst van de journalistiek in het tijdperk van het platformkapitalisme. Nieuwsorganisaties zullen beter hun best moeten doen om nieuwe financiële modellen te ontwikkelen. Maar in de gaten die nu vallen hebben een vastberaden plutocraat en een briljante mediastrateeg kansen gezien om de journalistiek naar eigen inzicht te hervormen – en niet alleen hebben ze die kansen gezien, ze hebben ze ook gegrepen.
In 2015 legde Steve Bannon aan Forbes uit hoe het GAI te werk gaat, met behulp van een datawetenschapper die het dark web afspeurt (in het artikel gaat hij er prat op te beschikken over supercomputers ter waarde van 1,3 miljard dollar) om zo materiaal naar boven te halen waar Google niet bij kan. Dat heeft onder meer een New York Times -bestseller opgeleverd: Clinton Cash: The Untold Story of How and Why Foreign Governments and Businesses Helped Make Bill and Hillary Rich, geschreven door Peter Schweizer, die aan het hoofd staat van het GAI. Van het boek is later een filmbewerking gemaakt, die is geproduceerd door Rebekah Mercer en Steve Bannon.
Op deze manier, legde Bannon uit, kun je een narratief naar keuze ‘inzetten als wapen’. Met harde feiten, die zijn gecheckt. Dan kun je meteen doorstoten naar de voorpagina van The New York Times, zoals ook is gebeurd met het verhaal over het geld van Hillary Clinton. Dat bepaalde het nieuws, net als Hillary’s e-mails. En, misschien nog wel belangrijker, het verlegde de aandacht binnen de nieuwscyclus – ook een klassieke psyops-aanpak, het ‘strategisch smoren’ van andere berichten.
Het is een strategisch spel, gericht op de lange termijn, en zonder meer perfect uitgevoerd. In de jaren negentig, aldus Bannon, waren de rechtse media niet in staat Bill Clinton onderuit te halen, omdat ze ‘uiteindelijk alleen maar tegen zichzelf aan het praten waren in een “echokamer”.’
Waarschijnlijkheidsmodellen
En dat geldt nu voor de linkse media, zo blijkt. We zijn uiteengedreven, op onszelf aangewezen, we lopen kriskras door elkaar heen en worden als schietschijven op de korrel genomen. Er ontstaat steeds meer het gevoel dat we tegen onszelf praten. En of het nou komt door de miljoenen van Mercer of door andere factoren, Jonathan Albrights kaart van het nieuws- en informatieecosysteem maakt duidelijk dat YouTube en Google en aanverwanten worden gedomineerd door rechtse sites – sites die stevig bijeen worden gehouden door miljoenen links.
Zit daar een overkoepelend brein achter, vraag ik Albright. ‘Dat kan haast niet anders. Er moet een of andere vorm van coördinatie zijn. Kijk maar naar de kaart, kijk maar hoe het systeem in elkaar zit, dat kan geen toeval zijn. Het wordt duidelijk aangestuurd door geld en politieke belangen.’
De afgelopen maanden is er in de echokamer heel wat afgepraat over Bannon, maar Mercer is degene die heeft gezorgd voor het geld om bepaalde delen van het medialandschap opnieuw vorm te geven. En Bannon mag dan verstand hebben van de media, Mercer heeft verstand van big data. Hij begrijpt hoe het internet werkt. Hij weet hoe algoritmen werken.
Nick Patterson, een Engelse codeur die in de jaren tachtig voor Renaissance Technologies werkte en zich nu aan het MIT bezighoudt met computergenetica, vertelt me dat hij als eerste Mercers talent heeft onderkend. ‘In de jaren tachtig was er een zeer select gezelschap bezig met spraakonderzoek en spraakherkenning, en toen ik bij Renaissance kwam werd me duidelijk dat de wiskundige modellen die wij op de financiële markten probeerden toe te passen, zeer vergelijkbaar waren.’
Patterson noemt Mercer ‘zeer conservatief’. ‘Hij moest echt niets hebben van de Clintons. In zijn ogen was Bill Clinton een misdadiger. En zijn politieke opvattingen komen er volgens mij uiteindelijk op neer dat hij een rechtse libertair is; hij duldt geen enkele inmenging van de overheid.’ Patterson vermoedt dat Mercer zijn briljante computervaardigheden, die hij op de financiële wereld heeft toegepast, nu op een heel ander terrein zal inzetten. ‘Wij ontwikkelen wiskundige modellen voor de financiële markten. Dat zijn waarschijnlijkheidsmodellen, en op grond daarvan proberen we voorspellingen te doen. Ik vermoed dat Cambridge Analytica probeert waarschijnlijkheidsmodellen voor het stemgedrag te ontwikkelen. En vervolgens gaan ze kijken hoe ze dat kunnen beïnvloeden.’
Kwantitatief analisten, ofwel quants, zoeken naar informatievoorsprong. Ze bouwen kwantitatieve modellen om het proces van het aankopen en verkopen van aandelen te automatiseren, en dan gaan ze op zoek naar kleine lacunes in kennis waar ze geweldige bedragen mee binnenhalen. Renaissance Technologies was een van de eerste hedgefondsen die investeerden in kunstmatige intelligentie. Maar wat het daarmee doet, hoe het is geprogrammeerd, dat is volkomen duister.
Johan Bollen, hoogleraar aan de School of Informatics and Computing van Indiana University, vertelt me hoe hij een mogelijke manier om informatievoorsprong te behalen op het spoor is gekomen: hij heeft onderzoek gedaan waaruit is gebleken dat je op grond van Twitter koersschommelingen kunt voorspellen. Je kunt de stemming onder het publiek peilen en vervolgens in kaart brengen. ‘De maatschappij wordt aangedreven door emoties, die collectief altijd lastig te meten zijn. Maar er zijn nu programma’s die teksten kunnen lezen en kunnen taxeren, en die ons een kijkje kunnen geven in die collectieve emoties.’
Het onderzoek bracht nogal wat beroering teweeg bij twee heel verschillende doelgroepen. ‘We kregen heel veel belangstelling van hedgefondsen. Zij zoeken overal naar aanwijzingen, en dit is een zeer interessant signaal. Ik heb de indruk dat hedgefondsen beschikken over deze algoritmen die sociale feeds scannen. De flash crashes die we hebben gezien – waarbij de aandelenkoersen ineens kelderden – duiden erop dat deze algoritmen op grote schaal worden gebruikt. Men is verstrikt in een soort wapenwedloop.’
De andere groep die is geïnteresseerd in Bollens werk, wil niet alleen in kaart brengen wat er onder de mensen leeft, maar wil dat ook veranderen. Bollens onderzoek laat zien hoe dat kan. Kun je de landelijke, of zelfs mondiale stemming doen kenteren? Deze in kaart brengen en vervolgens veranderen? ‘Dat lijkt mogelijk,’ zegt Bollen, ‘en dat baart me zorgen. Er zijn diverse onderzoeken waaruit blijkt dat als je iets maar vaak genoeg herhaalt, mensen het onwillekeurig gaan geloven. En dat kun je inzetten, of zelfs als wapen gebruiken, voor propagandadoeleinden. We weten dat er duizenden geautomatiseerde bots op het net zitten, met precies dat oogmerk.’
De strijd der bots is een van de meest krankzinnige aspecten van de verkiezingen van 2016. Op de afdeling Computational Propaganda van het Oxford Internet Institute laten directeur Phil Howard en onderzoeksleider Sam Woolley me zien op welke manieren de publieke opinie kan worden gemasseerd en gemanipuleerd. Maar is er ook hard bewijs, vraag ik, is het duidelijk wie hierachter zit? ‘Er is zat bewijsmateriaal,’ zegt Howard. ‘Bewijs te over. Kijk zelf maar,’ zegt hij, en hij laat me zien hoe, voorafgaand aan de Amerikaanse verkiezingen, honderden websites zijn aangemaakt enkel en alleen om een paar links het net op te slingeren, links naar pro-Trump-artikelen. ‘Dat wordt gedaan door mensen die verstand hebben van informatiestructuren, mensen die grote hoeveelheden domeinnamen opkopen en vervolgens geautomatiseerd een bepaald bericht verspreiden. Om de indruk te wekken dat Trump brede steun geniet.’
‘Daar is geld voor nodig, en er is een organisatie voor nodig. En als je maar genoeg bots en mensen inzet, en die op een slimme manier met elkaar verbindt, krijg je vanzelf bestaansrecht. Dan creëer je de waarheid.’
Je kunt een bestaand trending topic nemen, zoals nepnieuws, en dat dan als wapen gebruiken. Je kunt het inzetten tégen de media die het aan het licht hebben gebracht. Vanuit een bepaald perspectief is nepnieuws een bomgordel in het hart van ons informatiesysteem. En die is om óns lichaam gegord – het levende lichaam van de mainstreammedia.
Een van de dingen die Howard nog het meest verontrusten, zijn de honderdduizenden ‘slapende’ bots die ze hebben aangetroffen. Twitteraccounts die slechts een of twee tweets hebben verzonden en die nu in stilte wachten op een trigger: een of andere crisis die hen tot leven wekt, waarna ze met zijn allen alle andere informatiebronnen kunnen verdringen.
Als zombies?
‘Als zombies.’
Alternatieve werkelijkheid
Veel van die technieken zijn geperfectioneerd in Rusland, zegt Howard, en vervolgens naar elders geëxporteerd. ‘We hebben het over ongekende propagandamiddelen die tot ontwikkeling zijn gekomen onder een autoritair bewind en zich dan ineens in een vrijemarkteconomie begeven, in een regelgevingsvacuüm.’
Dit is de wereld waarin we ons dagelijks bewegen, op onze laptop en onze smartphone. Dit is het slagveld waar de ambities van landen en ideologen de strijd met elkaar aanbinden – en daar gebruiken ze ons voor. Wij zijn de buit: onze social media-feeds, onze gesprekken, onze emoties en meningen. Onze stemmen. Bots beïnvloeden trending topics en trending topics hebben een krachtig effect op algoritmen, legt Woolley uit, op Twitter, op Google, op Facebook. Wie in staat is de informatiestromen te manipuleren, is in staat de realiteit te manipuleren.
We leven nog niet echt in de alternatieve werkelijkheid waarin het echte nieuws ‘NEPnieuws!!!’ is geworden. Maar het scheelt niet veel.
The Observer
Verenigd Koninkrijk | zondagskrant | oplage 449.000
Oudste kroonjuweel van de Britse kwaliteitspers. Uit dezelfde groep als The Guardian maar met liberale signatuur.
Ook de Nederlandse politicus Thierry Baudet keek bij zijn succesvolle campagne voor de Tweede Kamerverkiezingen goed naar de methodes van Cambridge Analytica, vertelde hij onlangs.
‘We doen het net als Trump,’ verklaarde hij nog tijdens de verkiezingsrace tegen website Follow the Money. Later zei hij in de Volkskrant: ‘Cambridge Analytica werkte niet voor ons, maar we hebben wel hun methode gebruikt. Die methode gaat uit van de informatie die Facebook heeft over gebruikers en die heel nuttig is bij het vinden van potentiële kiezers. Laat ik een voorbeeld geven. Bij Forum hebben wij een standpunt over de transportsector. We vinden dat er sprake is van uitbuiting van vrachtwagenchauffeurs en dat valse concurrentie moet worden tegengegaan. Vroeger zou je een advertentie met die boodschap in een magazine over de transportsector zetten. Nu richt je je op Facebook direct op mensen die in de transportsector actief zijn. Dat is heel effectief.’
Lacht het geluk je als beginnend gamer opvallend vaak toe? Dat is geen toeval: met een extra portie mazzel stimuleren de makers je om door te spelen.
Op 16 september 2007 uploadde een Japanse YouTuber die zich ‘Computing Aesthetic’ noemde een 48 seconden durende video met de oorverdovende titel ‘ULTRA MEGASUPERLUCKYSHOT’. De video toont een hoog scorende shot in Peggle, een immens populaire videogame waarin een balletje over het scherm klettert en punten verzamelt terwijl het door een menigte snoepkleurige pinnen stuitert, die kort nadat ze zijn aangeraakt verdwijnen; hoe meer stuiteringen, hoe meer punten. Hoewel Peggle enige vaardigheid vergt – voordat je het balletje schiet moet je als speler zorgvuldig op de lanceerder mikken die boven aan het scherm bungelt – ben je in principe overgeleverd aan de genade van de stuitering. Op het filmpje van Computing Aesthetic stapelen de punten zich op terwijl het balletje op goed geluk tussen pinnen stuitert. Bij het filmpje, dat bijna een kwart miljoen keer is bekeken, heeft hij geschreven: ‘Ik kon mijn ogen niet geloven toen dit gebeurde!!!!!!’
Maar deze speler had misschien minder geluk dan hij dacht. ‘Bij Peggle wordt het schijnbaar willekeurige stuiteren van de balletjes tegen pinnen soms gemanipuleerd om de speler een beter resultaat te geven,’ geeft Jason Kapalka, een van de gameontwerpers, toe. ‘We geven de spelers bij ongeveer de eerste zes levels een flinke portie extra “geluk”, zodat ze niet gefrustreerd raken.’ Het bijsturen van elke stuitering met maar een paar kompasgraden – maar niet zo veel dat het balletje op een onrealistische manier door de luchtledige zwalkt – is genoeg om beginners aan te moedigen en het spel niet te ongeloofwaardig te maken, aldus Kapalka.
Collectief onderhandelen
Eerlijkheid is de onuitgesproken belofte van de meeste videogames. Een alwetende en almachtige ontwerper ziet erop toe dat een videogame ultiem rechtvaardig kan zijn, en dat verwacht de speler ook. Maar als videogames helemaal volgens de regels worden gespeeld, kan de speler zich toch bedrogen voelen. Sid Meier, ontwerper van het computerspel Civilization, waarin spelers een land door geschiedenis, politiek en oorlog heen loodsen, kwam er algauw achter dat hij de kansen moest vergroten om deze psychologische plooi glad te strijken. Na uitgebreid testen bleek dat een speler die te horen had gekregen dat hij 33 procent kans had op succes tijdens een wedstrijd en toch drie keer op rij van zijn tegenstander verloor, woedend en ongelovig zou worden. (Bij Civilization kun je drie keer opnieuw dezelfde wedstrijd doen totdat je wint, al kost elk verlies je wel punten.) Dus veranderde Meier het spel om het beter te laten aansluiten bij cognitieve menselijke functies; als je kans om een wedstrijd te winnen een op drie was, garandeerde het spel dat je bij de derde poging zou winnen – iets wat indruist tegen de wetten van de kansberekening, maar wel de illusie van eerlijkheid wekt. Noem het de geluksparadox: geluk hebben is leuk, maar te veel geluk is onrealistisch.
Het voortdurend onderhandelen tussen spelers en ontwerpers dat eruit voortvloeide moet als een van onze meest abstracte vormen van collectief onderhandelen worden beschouwd.
In vroeger tijden werd geluk in de regel toegeschreven aan goddelijk ingrijpen; spellen waren evenzeer het terrein van de goden als een manier om menselijke bekwaamheid te testen. Geluk was een belangrijke component van de spellen van de oude Egyptenaren, wier godheid Thoth volgens Plato de uitvinder van de dobbelsteen was. De dobbelstenen werden oorspronkelijk gemaakt van astragali, de kootbeentjes van gehoefde viervoeters, die na het polijsten voor Egyptische bordspellen werden gebruikt en voor een vorm van goddelijke waarzeggerij die astragalomantie werd genoemd. In graftombes zijn vervalste dobbelstenen aangetroffen samen met oeroude spelborden; ook al geloofden de oude Egyptenaren dat een dobbelsteenworp de goddelijke wil uitdrukte, ze waren er niet vies van om het lot een handje te helpen.
Olaf Haraldsson, een elfde-eeuwse Noorse koning, stelde eens zijn geloof op de proef tijdens een potje dobbelen om een koninkrijk. Olaf was in een territoriaal dispuut verwikkeld met de koning van Zweden over het eiland Hissing; uiteindelijk besloot het tweetal het geschil met dobbelstenen te beslechten. De Zweedse koning gooide twee zessen en zei dat het geen zin had om verder te spelen. Olaf stond erop dat hij ook mocht gooien; als recente bekeerling tot het christendom was hij ervan overtuigd dat God de dobbelstenen gunstig voor hem zou laten rollen. Zijn geloof werd beloond met twee zessen. De mannen bleven om beurten hun dobbelstenen gooien, telkens twaalf punten. De zaak werd uiteindelijk beklonken toen bij Olafs laatste worp een van de dobbelstenen in tweeën spleet, wat resulteerde in een zes en een een en hem het koninkrijk opleverde met een ongeëvenaard gelukkige dertien.
Geluk is even belangrijk bij moderne spellen, of het nu gaat om het rammelen met dobbelstenen in een beker of de verraderlijke kanskaarten bij Monopoly. Maar de rol ervan is veranderd: mensen hebben de teugels overgenomen van de goden en geluk is een designtool geworden dat de ervaringen en verwachtingen van spelers kan veranderen.
Bij mechanische spellen is geluk de beschermende factor tegen het mechanisme zelf. Aan het begin van de jaren vijftig van de vorige eeuw merkte flipperkastenfabrikant Gottlieb uit Chicago dat beginnende flipperaars soms al tijdens de eerste momenten van het spel een bal verspeelden. Daarom introduceerden ze een metalen wandje in de vorm van een omgekeerde V, dat tijdens de eerste spelsecondes omhoogkwam tussen de flippers aan de onderkant van het apparaat zodat een verdwaald balletje niet in de goot verdween. Bij nieuwere flipperkasten wordt het blokkerende wandje door software bediend; of het omhoogkomt of niet is een kwestie van geluk en is versleuteld in het algoritme.
Bij volledig digitale videogames is geluk nog dieper ingebakken in de ervaring en moet het actief worden gestimuleerd. Als de voetbal bij FIFA langs de doelman zeilt, of als een meute raceauto’s om onverklaarbare reden vaart mindert om je te laten inhalen, is er sprake van een spookachtige ingreep van de hand van de gameontwerper. Het gevolg van deze manipulatie is dat je je gevleid voelt en daarom betrokken blijft. Maar het is een truc die subtiel moet worden toegepast. Een speler die voelt dat hij stiekem door het spel geholpen wordt zal zich betutteld voelen; geluk is tenslotte alleen geluk als het echt onvoorspelbaar is.
En daar beginnen de problemen.
Toen de goden verantwoordelijk werden gehouden voor geluk, konden we daar alleen maar om bidden. Nu kunnen de architecten van ons spelerslot worden opgezocht op LinkedIn. Door die kennis zijn we gevoeliger voor geluk dat niet helemaal koosjer lijkt, en dat moeten de ontwerpers compenseren.
Of de proefpersoon nu een duif, een rat of een mens is, de beste manier om aangeleerd gedrag te versterken is door het op willekeurige momenten te belonen
‘Zodra de speler zich bewust wordt van een vorm van pseudowillekeurigheid dreigt het plezier in geluk hebben ondermijnd te worden,’ zegt Paul Sottosanti, ontwerper bij Riot Games dat League of Legends uitbrengt, de meest gespeelde onlinegame ter wereld. Games waarbij je schijnbaar willekeurige beloningen krijgt maken vaak gebruik van een ‘pechtimer’, aldus Sottosanti, die garandeert dat je iets schijnbaar gelukkigs overkomt na een langdurige periode van tegenslag, variërend van tien minuten tot een uur, afhankelijk van het spel. Bij World of Warcraft hopen spelers elke keer dat ze een vijand verslaan met een ‘Legendary’ te worden beloond, een van de krachtigste wapens van de game. De kans dat je een Legendary krijgt is oneindig klein, maar ook daarvoor geldt een pechtimer. ‘Als een speler alleen maar wacht tot de pechtimer in werking treedt, kan de vermoeidheid toeslaan,’ zegt Sottosanti. ‘Het eerste wat ze voelen als ze eindelijk een Legendary krijgen is geen vreugde maar opluchting, misschien vermengd met treurigheid.’
Hoewel pseudowillekeurigheden in sommige gevallen zijn ontworpen om een gevoel van eerlijkheid te creëren, speelt soms ook winstbejag een rol. Met de toename van het aantal zogenoemde ‘freemium games’ – gratis games die echt geld opleveren tijdens het spel door de verkoop van virtuele items – ontstaat de verleiding om een schijnbare speling van het geluk zodanig te manipuleren dat er meer geld wordt uitgegeven. Als voorbeeld van een goed gebruikte pechtimer noemt Sottosanti het populaire virtuele kaartspel Hearthstone. ‘De kans op een waardevolle kaart neemt toe met elk pak dat er niet een bevat,’ zegt hij. ‘Na ongeveer veertig pakken heb je de virtuele garantie dat je er een trekt.’ De pakken zijn te koop voor spelers.
Deze techniek is rechtstreeks afkomstig uit een spelboek van de Amerikaanse psycholoog B.F. Skinner, uit de jaren vijftig. Of de proefpersoon nu een duif, een rat of een mens is, zo ontdekte Skinner, de beste manier om aangeleerd gedrag te versterken is door het op willekeurige momenten te belonen. De ontwerpers van gratis spellen ontdekten dat ze door met variabele tussenpozen kleine prijzen uit te delen spelers langer geïnteresseerd konden houden – en geld konden laten uitgeven.
Natasha Schüll is hoofddocent Media, Cultuur en Communicatie aan New York University en de auteur van Addiction by Design: Machine Gambling in Las Vegas. Wanneer een speler het gevoel heeft dat het geluk met hem is, zegt ze, ‘kun je dat toeschrijven aan een toegenomen activiteit van de neurotransmitters, zodat je weet dat er dopamine vrijkomt. Zelfs de dwangmatige pogingen om dat gevoel van euforie opnieuw op te roepen worden gestuurd door het beloningscentrum in de hersenen.’ Het vermogen van dopamine om ons in geluksjagers te veranderen is het duidelijkst zichtbaar in de effecten van sommige geneesmiddelen tegen de ziekte van Parkinson, die patiënten gokverslaafd kunnen maken doordat ze de hersenen vol dopamine laten stromen.
En de verleiding om het zich voordoen van waarschijnlijkheden te manipuleren, en daarmee het menselijk brein aan te spreken, is nergens groter dan in de gokindustrie, waar de berekeningen meestal door software worden gemaakt, zowel bij internetspellen als bij fysieke spellen in een casino. De resultaten van elke moderne fruitmachine zijn gebaseerd op een geheimzinnig computernetwerk dat willekeurige getallen genereert, en niet op het fortuinlijke samenspel van drie houten wieltjes. Maar het verliezen van dat soort geluk kan demotiverend werken. Daarom maken gokmachines vaak gebruik van de fictie van fysiek geluk – door bijvoorbeeld de indruk te wekken dat je net een riante uitkering bent misgelopen doordat de laatste corresponderende goudstaaf of citroen net te vroeg tot stilstand kwam. Dat verleidt je ertoe om nog een keer voor die nog steeds astronomische pot te gaan.
‘Op een haar na gemiste kansen genereren letterlijk gemengde gevoelens,’ zegt Luke Clark, die als psycholoog onderzoek naar gokken doet aan de University of British Columbia. ‘Aan de ene kant wekken ze aversie bij mensen op, aan de andere kant doen ze de motivatie toenemen omdat je het gevoel hebt dat je het spel onder de knie krijgt.’
Voor games die zwaar op geluk leunen is het handhaven van de illusie dat je er beter in wordt cruciaal. ‘De belangrijkste hersenstructuur is hier het striatum, een verzameling nuclei in het centrum van het brein, dat over het algemeen zowel beweging als beloning reguleert,’ zegt Clark. Dat gebied van de hersenen lijkt uitzonderlijk belangrijk voor het gevoel dat we de hand in ons eigen geluk hebben gehad. ‘Datzelfde gebied speelt een rol bij de vorming van gewoonten, die duidelijk ook relevant zijn voor verslaving.’
Als je een speler ervan overtuigt dat hij beter wordt in een spel dat op geluk is gebaseerd, neemt de kans toe dat hij zijn geluk gaat tarten. ‘De gokindustrie is al jaren in staat om individuele spelers te volgen, duidelijke historische profielen van klanten op te stellen en algoritmen toe te passen die kunnen voorspellen wanneer iemand dreigt te stoppen,’ zegt Schüll. Op basis van deze profielen kunnen de uitkeringskansen midden in een goksessie worden aangepast door een speler een kleine beloning te geven zodat hij blijft doorspelen. Veel Amerikaanse staten hebben wetten die deze manipulaties verbieden. Freemiumgames, die momenteel niet onder dezelfde wetten vallen als de gokindustrie, kunnen deze bonusuitkeringen vrijelijk blijven geven zodat een speler denkt dat hij geluk heeft – en dus blijft spelen en geld uitgeven.
Sommige ontwerpers hebben het manipuleren van het geluk überhaupt afgezworen. Larry DeMar, een bekende flipperspelontwerper, heeft de ballenredder lange tijd weggelaten omdat hij vond dat die de zuiverheid van het spel ondermijnde. Als je verliest, verlies je – pech gehad.
Deze zuivere spelbenadering weet spelers helaas niet altijd te overtuigen. ‘Tegenwoordig zien mensen bijna overal manipulatiepatronen die er helemaal niet zijn,’ zegt Jason Kapalka, de ontwerper van Peggle. ‘Toen ik aan onlinegames werkte, was het bijna onmogelijk om sommige spelers ervan te overtuigen dat er niet op de een of andere manier met de resultaten was gesjoemeld. Mensen kwamen met ingewikkelde theorieën over dat beginners betere resultaten kregen zodat ze een abonnement namen, of dat ervaren spelers met betere resultaten werden beloond omdat ze zulte trouwe klanten waren enzovoort.’
Ook gameontwerpers kunnen de draad kwijtraken. ‘Zelfs een ervaren ontwerper kan sommige details uit het oog verliezen als het project maar groot genoeg is,’ zegt Adam Saltsman, zelf een ervaren ontwerper, ‘en zelfs een ervaren speler kan een systeem verkeerd begrijpen en vaardigheid met geluk verwarren, of andersom.’
Als spelen de manier is waarop mensen oefenen voor het leven, volgt daaruit dat we willen dat onze spellen vol onzekerheden zitten, vol grillige momenten waaraan we onze strategie moeten aanpassen. Maar we zijn veeleisender geworden ten aanzien van de hoeveelheid geluk die spellen ons gunnen – niet te veel, niet te weinig. Wat constant blijft is onze belangstelling voor het geluk dat we ervaren. ‘Als we geluk hebben bij een spel ervaren we een sterk gevoel van harmonie en verbondenheid, bijna alsof we het patroon hebben ontdekt, en het hebben voorspeld,’ zegt Schüll.
De bron van dit geluk – of het nu de goden zijn of een willekeurige verdeling van kansen – is een kwestie van cultuur. Maar de boodschap van een ontmoeting met het geluk tijdens een spel is overal even troostrijk: we hebben gevonden wat we zochten.
Begonnen als onlineweekblad, verschijnt Nautilussinds september 2013 ook op papier. Het prachtige blad wil berichten over de ‘oneindige raakvlakken’ tussen de wetenschap en ons dagelijks leven. Elke maand komt een ander thema aan bod in reportages en analyses.
Ondernemers die in een achterkamertje prijsafspraken maken kun je aanpakken. Maar wat als ze algoritmes gebruiken zoals David Topkins, die de markt voor filmposters manipuleerde?
David Topkins is geen Rockefeller. Maar net als de befaamde monopolist rakelt deze onbekende onlinehandelaar fundamentele vragen op over mededinging, ditmaal in het digitale tijdperk. In de eerste antitrust-rechtszaak in zijn soort heeft Topkins in 2015 schuld bekend aan het maken van prijsafspraken voor klassieke filmposters die via Amazon werden aangeboden. De misdaad lijkt niet zo bijzonder, maar Topkins’ methode was revolutionair: de handelaar heeft toegegeven dat hij de markt manipuleerde met speciale algoritmes die de prijzen hoog hielden. Met instemming van zijn concurrenten liet hij het algoritme ervoor zorgen dat de filmposters werden aangeboden tegen wat de aanklager ‘frauduleuze, niet-concurrerende prijzen’ noemt.
Terwijl Topkins nog op de uitspraak van de rechter wacht, beginnen de consequenties van dit soort krachtige onlinetools stilaan door te dringen tot de Amerikaanse toezichthouders en hun Europese collega’s. Topkins’ fraude met posterprijzen lijkt kinderspel vergeleken met het machtige oliekartel van Rockefeller, die eind negentiende eeuw 90 procent van de markt in handen had en daardoor de aanzet gaf tot de eerste Amerikaanse mededingingswet (1890). Maar omdat in dit proces nieuwe technologische vormen van marktverstoring centraal staan, is het wel een mijlpaal in de digitale economie.
Niet toereikend
‘We tolereren geen enkele vorm van prijsafspraken, of die nu in een rokerig achterkamertje worden gemaakt of online, met behulp van complexe prijsalgoritmes,’ zei staatssecretaris van Justitie William Baer bij de bekendmaking van de aanklacht tegen Topkins. Maar volgens deskundigen is de bestaande mededingingswetgeving, die vooral is gericht op de daden en bedoelingen van mensen, misschien niet toereikend om bedrijven ook in het digitale tijdperk van marktafspraken te weerhouden.
Markten die worden gedomineerd door geautomatiseerde prijsmechanismen reageren niet op dezelfde prikkels en volgens dezelfde wetmatigheden als markten waarin mensen de dienst uitmaken. En de belofte van grotere keuze en lagere prijzen die de digitale economie ons steeds voorspiegelt, kan zo weleens in rook opgaan. De opkomst van kunstmatige intelligentie en krachtige algoritmes kan juist leiden tot duurzame kartels die de prijs kunstmatig hoog houden ten koste van de consument, zonder dat traditionele regelgeving daar iets aan kan doen.
‘Door netwerkeffecten [effecten die ervoor zorgen dat producten of diensten meer waarde krijgen naarmate ze meer gebruikers hebben] staat er in de data-economie veel meer op het spel,’ zegt Maurice Stucke, een voormalig medewerker van justitie die nu mededingingsrecht doceert aan de Universiteit van Tennessee. ‘Mededinging zoals wij die kennen gaat veranderen.’ De meeste waakhonden zien dit nog als een probleem van de toekomst. Maar als de systemen die de prijs bepalen nog veel autonomer worden, hoeven monopolisten in spe zoals Topkins voor het maken van prijsafspraken niet eens meer met hun concurrenten te overleggen. Dan zijn het de computers die in hun plaats samenspannen, doordat ze allemaal hetzelfde algoritme gebruiken of leren van hun interactie met andere computers – zonder daarbij een spoor van belastende e-mails of voicemailberichten achter te laten.
‘Verhinderen dat zelflerende algoritmes met elkaar samenspannen is misschien wel een van de grootste uitdagingen waarvoor mededingingswaakhonden ooit hebben gestaan’, staat te lezen in een recent rapport van de OESO, een club van vooral rijke landen.
Algoritmes stellen prijzen vast op basis van directe inschattingen van vraag en aanbod en instructies van de verkoper, zoals specifieke streefcijfers voor winstmarges of prijzen. Zulke algoritmes werden voor het eerst gebruikt op financiële markten, maar zijn nu ook niet meer weg te denken uit de luchtvaart- en hotelindustrie en onlinewinkels als Amazon. Ook in andere sectoren, zoals transport, gezondheidszorg en detailhandel, verspreiden ze zich razendsnel. Dat Walmart in augustus de onlinewinkel Jet.com overnam voor 3,3 miljard dollar, was deels ingegeven door het verlangen naar knowhow op het gebied van algoritmes. Het OESO-rapport stelt dat het fenomeen van big data ‘mededingingsautoriteiten in de toekomst voor ernstige problemen kan stellen, doordat het wellicht heel moeilijk, zo niet onmogelijk wordt om te bewijzen dat er sprake is van doelgerichte prijsafspraken, althans met de instrumenten waarover die toezichthouders nu beschikken’. En verder: ‘Zeker in het geval van kunstmatige intelligentie ontbreekt de juridische grond om een programmeur aansprakelijk te kunnen stellen voor het programmeren van een computer die uiteindelijk “zelf leert” hoe hij samen met andere computers prijzen kan manipuleren.’
Obama’s economische adviesraad kwam vorig jaar april met een rapport over groeiende concentraties van marktaandelen in sectoren als transport, detailhandel en verzekeringen, en zag daarin een oorzaak voor de dalende groei van de levensstandaard. Volgens het Witte Huis is er ook nieuwe regelgeving nodig om mededinging in de digitale economie goed te regelen. En het Britse Hogerhuis bracht vorig jaar een rapport uit over het ‘potentieel voor concurrentievervalsing’ en ‘nieuwe vormen van prijsafspraken’, waarin het de Europese Commissie opriep nader onderzoek te doen naar de gevolgen van algoritmes voor de vrije concurrentie.
‘Je kunt situaties krijgen waarin concurrentie wordt gesmoord zonder dat er regelgeving tegen bestaat’
‘Het is een dringend probleem,’ zegt Stucke, die vorig jaar samen met zijn co-auteur Ariel Ezrachi van de Universiteit van Oxford mededingingsautoriteiten in Washington en Brussel heeft bijgepraat. ‘Je kunt situaties krijgen waarin concurrentie wordt gesmoord zonder dat er regelgeving tegen bestaat.’ Als voorbeeld geeft hij Duitse software die de benzineprijs aan de pomp bijhoudt. De eerste resultaten lijken erop te wijzen dat die software pomphouders ontmoedigt om hun prijzen te verlagen, zodat de gemiddelde prijs hoger blijft dan hij anders zou zijn. Omdat een prijsverlaging bij één pomp meteen wordt gesignaleerd, waardoor concurrenten nog voordat de consument kan overstappen mee kunnen gaan in de prijsverlaging, heeft een pomphouder geen reden meer om zijn prijs te verlagen. ‘Algoritmes wisselen informatie zo snel uit dat consumenten zich van geen concurrentie bewust zijn,’ zegt Stucke. ‘Twee tankstations die tegenover elkaar aan dezelfde weg zitten, weten al hoe zoiets werkt.’
Een vergelijkbaar argument hoor je in een rechtszaak tegen Uber in New York. Dat de tarieven van de chauffeurs (allemaal zelfstandige ondernemers) door een algoritme worden bepaald, komt volgens Uber-klant Spencer Meyer neer op een ‘klassieke prijsafspraak’. Hij heeft een rechtszaak aangespannen tegen Uber en directeur Travis Kalanick vanwege de onredelijk hoge winsten die ze zouden boeken met hun ‘dynamische tarieven’, waarbij de prijs van een rit automatisch stijgt op momenten dat er meer vraag is. ‘Met Kalanicks prijsalgoritme worden vraag en aanbod kunstmatig gemanipuleerd, doordat deze dynamische tarieven worden opgelegd aan chauffeurs die anders met elkaar op prijs zouden concurreren’, luidt de aanklacht van Meyer.
Ondertussen kan Topkins op 16 maart zijn vonnis verwachten. Op basis van zijn deal met het OM komt hij er wegens medewerking aan het onderzoek waarschijnlijk van af met alleen een boete van 28.750 dollar en hoeft hij niet de cel in.
Financial Times
Verenigd Koninkrijk | dagblad | oplage 448.000
Toonaangevende krant voor de Londense City en de rest van de wereld. Internationale economie en management worden uitputtend behandeld.
Deze website gebruikt cookies. Door de site te gebruiken gaan we er vanuit dat je ze accepteert. OK
Manage consent
Over onze cookies
Deze website gebruiks cookies die de gebruikservaring verbeteren. De cookies die we als noodzakelijk categoriseren worden opgeslagen door je browser en zijn essentiëel voor een goede werking van de basisfuncties van deze website. We gebruiken ook third-party cookies die ons helpen te analyseren hoe deze website gebruikt wordt. Deze cookies kunnen ook voor marketingdoeleinden worden gebruikt. Ze worden alleen door je browser opgeslagen als je daar toestemming voor geeft.
Onze noodzakelijke cookies zijn essentiëel voor het goed functioneren van deze website. De basisfuncties en beveiliging van deze website zijn hiervan afhankelijk. Deze cookies slaan geen persoonlijke informatie op.
