Nepnieuws eng? 
Wacht maar op de 
fake video

In een vunzig uithoekje van het internet kun je actrices uit Game of Thrones in allerlei standjes seks zien hebben. Althans, de hoofden op de vozende lijven zijn echt van die filmsterren. Maar de lichamen eronder niet. Met behulp van intelligente software zijn de beroemde gezichten bijna naadloos in bestaande pornoscènes geplakt. Het is een van de pijnlijkste en meest intieme vormen van identiteitsdiefstal in het internettijdperk. Allemaal mogelijk dankzij een technisch hoogstandje: de argeloze bezoeker kan niet makkelijk zien dat dit een hoax is.

Deze ontwikkeling is het werk van een programmeur met de schuilnaam ‘deepfakes’. En dit is nog maar een bètaversie van een veel ambitieuzer project. 
In januari vertelde een collega van deepfakes op technologiewebsite Motherboard dat hij deze techniek toegankelijk wil maken voor de massa. Hij wil het procedé verder verfijnen en automatiseren, zodat straks iedereen in staat is het hoofd van een ex, een collega of een geheime vlam in een bestaand pornofilmpje te monteren. Zonder technische kennis. En omdat onderzoekers werken aan nog veel verfijndere tools voor andere dan pornografische doeleinden – algoritmen om gezichtsuitdrukkingen in kaart te brengen en stemmen na te bootsen – zullen dit soort vuige nepfilmpjes steeds realistischer worden.

Het internet droeg altijd al de kiem in zich van een postmoderne hel. Massamanipulatie, van clickbait tot Russische bots en de verslavende mechanismen van de Facebook-newsfeed, is de pasmunt van het medium. Het internet is altijd een plek geweest waar identiteit griezelig ongrijpbaar is, waar anonimiteit een voedingsbodem vormt voor verwarring en verhuftering, waar oplichters de randen van het ik doen vervagen. Zo bezien is de opkomst van deepfakes een logisch uitvloeisel van de geschiedenis van het internet tot nu toe – en waarschijnlijk slechts een primitief voorproefje van wat ons nog te wachten staat.

Werkelijkheid

Vladimir Nabokov schreef ooit dat ‘werkelijkheid’ een van de weinige woorden is die geen betekenis hebben zonder aanhalingstekens. Het was een sardonisch inzicht in de betrekkelijkheid van onze waarneming: als jij en ik naar hetzelfde voorwerp kijken, hoe weet je dan écht dat we allebei hetzelfde zien? Toch hebben onze instituten (de media, de overheid, de academische wereld) ons, vanuit een geloof in empirisme en de rede, weten te verenigen in een consensus over hoe we de wereld moeten beschrijven. Maar deze breekbare consensus begint de laatste jaren af te brokkelen. De sociale media hebben een nieuw tijdperk ingeluid van geïndividualiseerde nieuwsconsumptie die de eigen vooroordelen bevestigt en tegenstrijdige feiten wegfiltert. De komst van zo’n waarheidsvrije wereld wordt nog verder versneld door een president die leugens en complottheorieën 
officiële goedkeuring verleent.

Maar over een poosje zal dit misschien het 
tijdperk van de onschuld lijken te zijn. Dan leven we in een wereld waarin onze ogen ons continu bedriegen. Anders gezegd, we zijn niet meer ver af van de totale instorting van de werkelijkheid.

Trouw aan de werkelijkheid is iets waar we tegenwoordig sterk aan hechten, waar we zelfs naar snakken. We leven nog steeds in de wereld van Abraham Zapruder. We hebben diep ontzag voor het soort grofkorrelige beelden dat te zien was op het 8-millimeterfilmpje waarmee die kleermaker uit Dallas bij toeval de moord op John F. Kennedy had vastgelegd. Onbewerkt beeldmateriaal wordt in onze cultuur een buitenproportioneel gezag toegekend. Dat komt doordat het publiek een blind en irrationeel cynisme heeft ontwikkeld jegens gewone 
verslaggeving en ander materiaal dat door de handen van de media is gegaan – een overtrokken reactie op een eeuw reclame, propaganda en opgeklopt tv-nieuws. We hebben een diepe hunkering naar onopgesmukte feiten, wat de essayist David Shields onze ‘werkelijkheidshonger’ noemt.

Laakbaar gedrag maakt vooral kans om massale verontwaardiging los te maken als het ‘op film staat’. 
Bij de laatste twee presidentsverkiezingen was een cruciale rol weggelegd voor zulk beeldmateriaal. In 2012 werd Mitt Romney heimelijk gefilmd door een barkeeper toen hij op een campagnebijeenkomst in Florida ‘47 procent’ van de Amerikanen – de Obama-kiezers – wegzette als slappelingen die hun hand ophielden bij de overheid. Er zijn goede redenen om te veronderstellen dat dit stiekem opgenomen filmpje zijn verkiezingskansen om zeep heeft geholpen. Zijn opmerkingen zouden vast nooit zo veel impact hebben gehad als ze gewoon waren opgetekend door een journalist. Het waren de beelden – met die onhandige camerahoek, rinkelend bestek en kelners die door het beeld lopen – die hier kracht aan gaven. Al die aspecten getuigden van de onweerlegbare authenticiteit.

Tegen de verwachtingen in kwam Donald Trump wel het schandaal te boven van de Access Hollywood-tape, waarin hij opschepte over het aanranden van vrouwen. Maar het was die opname die als geen andere in deze verkiezingsstrijd de verontwaardiging van het publiek wist te wekken. Ook bij andere recente mediarellen waren filmbeelden steeds de lont in het kruitvat. Ondanks de vele eerdere voorbeelden van footballspelers die hun partner mishandelen, kwam sportbond NFL pas tot een openlijke 
veroordeling van geweld tegen vrouwen na de rel rondom running back Ray Rice: op bewakingsbeelden was te zien hoe hij zijn buiten westen geslagen vrouw een lift uit sleurt. En dan was er de dood 
van Philando Castile, die in 2016 in Minnesota door een politieagent werd doodgeschoten terwijl zijn vriendin hun aanhouding live op Facebook streamde. Talloze reportages, onweerlegbare cijfers en hart-verscheurende anekdotes, het had allemaal niet tot brede verontwaardiging over politiegeweld geleid. Tot dat verschrikkelijke filmpje verscheen van Castile die in zijn eigen Oldsmobile als een beest werd neergeknald: dat schudde het publiek wakker en opende politici en zelfs enkele verstokte conservatieve 
commentatoren eindelijk de ogen voor de misstand die ze zo lang hadden genegeerd.

Dat brengt ons bij de kern van het probleem. Het 
is een natuurlijke neiging om je eigen zintuigen te vertrouwen, te geloven in wat je ziet. Die ingebakken neiging zal in het nieuwe tijdperk van gemanipuleerde videobeelden volop worden uitgebuit. Kijk maar naar een paar dieptepunten in de stortvloed van desinformatie die door Aviv Ovadya van de Universiteit van Michigan de ‘infopocalyps’ is genoemd – en stel je voor hoeveel erger het nog had kunnen worden met nepfilmpjes. Neem Pizzagate [de 
complottheorie over een pizzeria die het middelpunt 
zou zijn van een pedofielennetwerk van John Podesta en andere Democraten] en stel je voor dat er vervalste filmbeelden waren verspreid van John Podesta die naar een kind zit te loeren, of erger. Leugens krijgen zo een heel nieuwe, explosief emotionele intensiteit.

Maar het probleem zit hem niet alleen in de wildgroei aan leugens. Nepbeelden zullen begrijpelijkerwijs ook nog meer argwaan wekken over álles wat we zien. En politici en opiniemakers zullen die twijfels uitbuiten. Wie op een misstap wordt betrapt, zal simpelweg zeggen dat er met de beelden is geknoeid. De president schijnt een van de eerste gebruikers van deze tactiek te zijn: hoewel hij aanvankelijk erkende dat de Access Hollywood-tape echt is, heeft hij in kleine kring inmiddels openlijk betwijfeld of we in de opname zijn eigen stem horen.

Uiteindelijk zal beeldmanipulatie dus het geloof 
vernietigen in het sterkste middel dat ons nog aan de gedachte van een gemeenschappelijke werkelijkheid bindt. Zoals Ian Goodfellow, onderzoeker bij Google, in de MIT Technology Review vertelde: ‘Het is historisch gezien eigenlijk toeval dat we nu op filmbeelden kunnen leunen als bewijs dat iets echt is gebeurd.’

Het opheffen van de werkelijkheid is geen onbedoeld neveneffect van kunstmatige intelligentie

Het opheffen van de werkelijkheid is geen onbedoeld neveneffect van kunstmatige intelligentie. Het is iets waar enkele van de befaamdste architecten van de nieuwe technologie al heel lang naar streven of op zijn minst mee flirten. Het verhaal van Silicon Valley begint in de vroege jaren zestig, met de International Foundation for Advanced Study, niet ver van de legendarische laboratoria van Stanford University. De Foundation specialiseerde zich in experimenten met lsd. Sommige techneuten konden de verleiding niet weerstaan om, ongetwijfeld in naam van de wetenschap, zelf ook eens een geestverruimende 
trip te maken. En ze wilden machines ontwerpen die het bewustzijn net zo konden verruimen als drugs. Computers zouden een gat in de muur van onze werkelijkheid slaan, zouden de mensheid uit de grijze alledaagsheid van de jaren vijftig verlossen en tot een veel hippere en meer holistische geestesgesteldheid brengen. Steve Jobs beschreef lsd als ‘een van de twee of drie belangrijkste’ ervaringen van zijn leven.

Gefakete maar realistische internetfilmpjes zijn 
niet het einddoel van deze door technologen gepropageerde vlucht uit de werkelijkheid. De apotheose van hun visie is virtual reality. Virtual reality komt in feite neer op het creëren van de overtuigende illusie dat je je op een andere plek bevindt. De VR-bril en handschoenen moeten onze zintuigen om de tuin leiden en onze waarneming bedriegen. In games worden spelers overgeheveld naar een andere wereld, waar ze een verhaal uitspelen. Met virtual reality kunnen we nog completer naar zo’n andere wereld reizen: dan zien we wat onze avatars zien, voelen we wat zij voelen. Toen de psychedelische pamflettist Timothy Leary enkele decennia geleden de prille 
VR-technologie uitprobeerde, schijnt hij die 
te hebben uitgeroepen tot ‘de nieuwe lsd’.

Als deze technologie de kinderschoenen eenmaal is ontgroeid, kan virtual reality het leven ook interessanter maken en prachtige nieuwe mogelijkheden bieden voor onze creativiteit. Maar als de VR-hype zo groot wordt als voorspeld, zal het net zoals de personal computer 
of sociale media uitgroeien tot een gigantische bedrijfstak, die uit winstbejag probeert klanten verslaafd te maken aan zijn product en wellicht door een of twee exorbitant machtige marktpartijen wordt gedomineerd.

Maar al te graag bedonderd

De mogelijkheden om consumenten te manipuleren zullen toenemen, want virtual reality zaait per 
definitie verwarring over wat echt is. Onderzoekers die in Duitsland aan een ethische code voor virtual reality werken, waarschuwen dat het ‘alomvattende karakter’ van de ervaring resulteert in ‘mogelijkheden voor nieuwe en bijzonder krachtige vormen van geestelijke en gedragsmatige manipulatie, met name wanneer commerciële, politieke, religieuze of bestuurlijke belangen meespelen in het opzetten en onderhouden van de virtuele werelden’. De VR-pionier Jaron Lanier schrijft in zijn onlangs gepubliceerde memoires: ‘Nooit eerder bood een medium ons zo veel potentieel voor het creëren van zowel iets heel moois als iets heel griezeligs. Virtual reality zal ons op de proef stellen. Het zal ons karakter nog sterker veranderen dan andere media ooit hebben gedaan.’

Misschien vindt onze samenleving manieren om op deze veranderingen in te springen. Misschien kweken wij de benodigde scepsis om veilig met de nieuwe technieken om te gaan. Maar tot nu toe leggen mensen een schier eindeloze bereidheid aan de dag om zich te laten bedonderen. Ze zijn maar al te vatbaar voor boodschappen die naadloos aansluiten op hun eigen wereld- en zelfbeeld, hoe excentriek of regelrecht fout dat wereldbeeld misschien ook is. Overheden reageren vaak traag op de maatschappelijke uitdagingen waar nieuwe technologieën ons voor stellen, en in dit geval willen ze er misschien hun vingers niet aan branden. De vraag wat werkelijkheid is, is niet alleen een filosofische: het is een politieke vraag die raakt aan het misleidende karakter van sommige diepgewortelde overtuigingen.

Weinig mensen zullen de tijd of de mogelijkheid hebben om minutieus uitgewerkte verzinsels te 
ontmaskeren. Misschien moeten we dit probleem uitbesteden door weer meer gezag toe te kennen aan deskundigen als journalisten en wetenschappers. Misschien onderkennen de technologiebedrijven 
het gevaar van deze crisis en zullen ook zij die rol op zich nemen. Maar dat vereist dat ze een verantwoordelijkheid nemen die ze tot nu toe grotendeels hebben ontweken.

In 2016, het jaar waarin Rusland via Facebook de Amerikaanse presidentsverkiezingen probeerde te beïnvloeden, zette Elon Musk zijn levensvisie uiteen. Die leunde op een theorie die in zijn milieu nogal in zwang is. Het idee is dat we eigenlijk deel uitmaken van een computersimulatie, alsof we allang personages in een sciencefictionfilm of een videogame zijn. ‘De kans dat wij in de “basisrealiteit” zitten, is één 
op vele miljarden,’ zei hij. Als de kopstukken in de bedrijfstak die ons van informatie voorziet en die bepalend wil zijn voor onze toekomst niet eens willen erkennen dat onze werkelijkheid bestaat, 
dan is er weinig hoop dat we die werkelijkheid nog kunnen redden.

Auteur: 
Franklin Foer
Vertaler: Frank Lekens

Openingsbeeld: Een van de pioniers van de digitale beeldmanipulatie was de Nederlands computer- en videokunstenaar Micha Klein (1964). Hij maakte in de jaren negentig ook furore als vj in de opkomende housescene. Dit beeld komt uit de documentaire Speeding on the Virtual Highway (Submarine), over zijn leven en werk. – © Micha Klein

The Atlantic
Verenigde Staten | maandblad | oplage 450.000

Voorheen The Atlantic Monthly. Halverwege de negentiende eeuw opgericht door schrijvers Harriet Beecher Stowe en Ralph Waldo Emerson. Boekte in 2010 voor het eerst winst dankzij een krachtige onlinestrategie. Biedt naast journalistiek ook ruimte voor poëzie en beeld.