Nu de oorlog tussen Israël en Hamas escaleert, neemt de hoeveelheid desinformatie toe. De verspreiding van valse beweringen op sociale media maakt het moeilijk om feiten van fictie te onderscheiden. The Walrus sprak erover met mediadeskundige Taylor Owen.
Onmiddellijk na de aanval van Hamas op Israël op 7 oktober j.l. en tijdens de daaropvolgende Israëlische bombardementen op Gaza, is op platforms zoals Facebook, X en YouTube een niet-aflatende stroom van verkeerde informatie verspreid, alsof de echte beelden die uit het conflictgebied komen nog niet gruwelijk genoeg zijn. De berichten en video’s die op sociale media circuleren variëren van wanstaltig (ontvoeringen en onthoofdingen) tot misleidend (beweringen over psy-ops [psychologische oorlogsvoering] door de Amerikaanse regering of van Oekraïense wapenleveranties aan Hamas). Eén video zou zelfs aantonen dat het Israëlische leger geënsceneerde videoclips van nepdoden maakt. (Het bleek te gaan om achter-de-schermenopnames van een korte film. Desondanks werd de video al miljoenen keren bekeken.)
Hoe zijn deze platforms, die ooit van onschatbare waarde waren voor het volgen van wereldgebeurtenissen in realtime, zo’n puinhoop geworden?
Taylor Owen bezet de Beaverbrook-leerstoel in Media, Ethiek en Communicatie en is oprichter van het Centre for Media, Technology and Democracy aan McGill University in Montreal. We spreken hem over de bronnen van desinformatie, de veranderende rol van sociale media en hoe het verder moet met ons informatie-ecosysteem.
Het lijkt wel of er rond het conflict tussen Israël en Hamas een onbeperkte hoeveelheid content klaarstond om te worden verspreid zodra het zou escaleren. Hoe kan zoiets zo snel gebeuren? Hoeveel van deze informatie is georganiseerde propaganda en hoeveel ervan komt van mensen die gewoon iets willen posten?
‘Hoe konden mensen zo snel reageren op sociale media? Ik denk doordat we het normaal zijn gaan vinden om dat te doen. Als politieke actoren, maatschappelijke actoren, journalistieke actoren en burgers een decennium lang worden gestimuleerd om zich naar deze platforms te verplaatsen, dan is dat waar ze zich op richten als er iets gebeurt. Dat geldt voor het Israëlische leger, voor Hamas, voor nieuwsorganisaties en commentatoren die verkeer op hun YouTube-kanalen willen genereren. Iedereen zoekt de sociale media op, zodat een collectief gesprek kan worden gevoerd.
Het probleem is dat we dat grotendeels doen door de prikkels van het systeem zelf. Het ontwerp ervan bepaalt hoe wij ons engageren. En de gebeurtenissen rond Gaza maken heel duidelijk dat deze prikkels leiden tot onwenselijk gedrag. We zijn niet onze beste zelf als we deze online plekken opzoeken voor een collectief gesprek. Dat is een van de tragedies van wat we zelf hebben gebouwd. De tools die we gebruiken om ons over de wereld te informeren en over de wereld te praten, creëren echt perverse prikkels.
We kijken anders naar de wereld als onze kennis erover afkomstig is van berichten die ons boos maken’
Het type en de toon van de inhoud die door deze ecosystemen worden aangemoedigd, hebben uiteindelijk effect op de mate waarin we ons gebeurtenissen aantrekken en hoe we denken over degenen aan de andere kant van een gebeurtenis. Als je mensen vraagt of ze vinden dat het gebruik van sociale media een beter begrip geeft van de wereld, is steeds vaker het antwoord dat ze er juist boos, ongedurig of onzeker van worden. Dat is vooral te zien op X, maar ook op YouTube: ga erheen in de nasleep van een gebeurtenis zoals de Hamas-aanslag en wat zie je? Mensen die tegenover elkaar staan en ruzie maken, extremen die boven komen drijven door het algoritmische systeem. Dat heeft uiteindelijk effect op het kennisgehalte van de samenleving. We kijken anders naar de wereld als onze kennis erover afkomstig is van berichten die ons boos maken.’
Als ik dat hoor, denk ik: de lange geschiedenis op weg naar steeds snellere media heeft eindelijk het punt bereikt waarop ons verlangen naar onmiddellijke informatie ons vermogen om die betrouwbaar te kunnen produceren heeft overvleugeld. Valt dat überhaupt nog op te lossen als we onmiddellijke informatie verlangen?
‘Wanneer het systeem dat bepaalt wat we consumeren niet zorgt voor distributie van betrouwbare informatie, wordt het aanbod daarvan irrelevant. Met andere woorden, het maakt niet uit hoeveel journalistiek je in X pompt zolang het distributiemechanisme gebruikers alleen maar rotzooi voorschotelt. Er is natuurlijk ook een probleem aan de aanbodzijde, in die zin dat er op dit moment waarschijnlijk niet genoeg goede journalistiek wordt geproduceerd – om allerlei redenen waarover we het kunnen hebben: bedrijfsmodellen achter het nieuws, politisering van het nieuws, et cetera. Maar ik denk dat het er vooral om gaat dat distributiesystemen geen voorrang geven aan betrouwbare informatie boven andere inhoud.
X heeft zijn algoritmische prioriteiten radicaal veranderd. In plaats van vooral informatie te geven over gebeurtenissen die op dat moment plaatsvinden, wordt een heel specifiek type inhoud versterkt, evenals een specifiek type gebruiker – gebruikers die bijvoorbeeld hebben besloten een blauw vinkje te kopen. Dat is voor mij de kern van dit probleem: hoe deze systemen worden ontworpen, hoe we toezicht houden op deze systemen en hoe we besluiten de systemen te reguleren.
Dan is er nog een aanvulling op het probleem aan de aanbodzijde, namelijk generatieve AI. Een groot deel van de content die we nu op sociale platforms tegenkomen wordt gemaakt door geautomatiseerde systemen die perfect zijn afgestemd op het ontwerp van het ecosysteem. Het resultaat is dat we steeds meer content zien die ons bezighoudt, boos maakt en inspeelt op onze vooroordelen, omdat dat exact is hoe die generatieve AI-tools die het grootste deel van deze content creëren, zijn afgesteld.’
Het afgelopen jaar is er een versnelling geweest in de ontwikkeling van nieuwere, kleinere nichecommunities: of dat nu Bluesky of Mastodon is of een andere onlinegemeenschap die speciaal is ontworpen voor mensen waar je het niet mee eens bent. Het lijkt mij dat dit een nog sterkere echokamer creëert. Maakt de opkomst van deze kleinere gemeenschappen het informeren van het publiek niet juist moeilijker?
‘Ik denk dat de meeste van deze nichesites niet succesvol zijn gebleken doordat de netwerkeffecten van de grotere platformen zo groot zijn. Zelfs Threads, dat beschikt over de middelen en de schaal van Meta, heeft moeite om een nieuw netwerk te creëren.
Dat gezegd hebbende staat buiten kijf dat nichesites die zich richten op specifieke ideologische wereldbeelden polarisatie scheppen. Ik denk eigenlijk dat we het hier niet genoeg over hebben. Op sites als X vindt veel interactie plaats. Als iedereen daarop zit, is de kans groter dat je op de een of andere manier wordt blootgesteld aan een afwijkende mening. Terwijl als je op Rumble zit, het onwaarschijnlijk is dat je een progressieve kijk op de wereld krijgt voorgeschoteld.
Op het moment hebben we geen goede manier om de verschillende discoursen op deze verschillende platformen vast te leggen. We zijn daar wel mee bezig: kunnen we deze discoursen over verschillende platforms volgen in plaats van alleen binnen één platform? Ik heb sterk het vermoeden dat dit veel diepere polarisatie aan het licht zou brengen dan wanneer we slecht één enkel platform bekijken.’
TikTok is voor velen een primaire nieuwsbron geworden. Zijn er bijzondere risico’s of voordelen aan dat platform?
‘Nadat de Europese Commissie in de nasleep van de aanslag in Israël waarschuwde dat techbedrijven moeten voldoen aan de Digital Services Act die net in werking is getreden, kondigde TikTok aan dat het meer dan 500.000 video’s had verwijderd en 8000 livestreams had afgesloten. Ze hebben hun naleving dus behoorlijk fors opgeschaald – in veel opzichten beter dan sommige andere platforms. Ik denk dat ze een meer reguliere speler gaan worden binnen het ecosysteem van de grote platforms. Dat is positief.
‘In sommige opzichten bevinden we ons nu in de slechtste van alle mogelijkheden’
Maar wat ingewikkeld is aan TikTok, is dat het overgrote deel van wat iedereen daar ziet hetzelfde is als wat ieder ander ziet. Er is een zeer beperkte hoeveelheid inhoud die daadwerkelijk door een groot aantal mensen wordt gezien. Dat betekent dat de algoritmes of, in veel gevallen, mensen bij TikTok, in grote mate kunnen bepalen hoe de wereld op hun platform wordt getoond. Je kunt je voorstellen dat dit op allerlei manieren wordt ingezet, positief en negatief. In die zin lijkt het platform veel meer op een filter van wat naar buiten wordt gebracht dan op een traditioneel sociaal netwerk dat gelijkwaardige toegang biedt tot een breder scala aan inhoud. Iedereen kan berichten plaatsen op TikTok, maar slechts heel weinig mensen worden gezien, en dat geeft het bedrijf een enorme macht bij het vormgeven van de verhaallijnen bij gebeurtenissen zoals deze.’
Is er nog iets anders waar we het nog niet over hebben gehad waarvan u wel vindt dat we het moeten bespreken?
‘Het belangrijkste is, denk ik, dat deze tools overduidelijk niet langer geschikt zijn voor een van de kerncapaciteiten die we ze in het verleden hebben toegedicht, namelijk ons helpen beter te begrijpen wat er in de wereld gebeurt, terwijl de gebeurtenissen zich ontvouwen. Die taak hebben ze nooit perfect volbracht; de verschillende platforms deden het op verschillende manieren en met grote gebreken. Maar nu ontbreekt dat vermogen geheel. En dat betekent dat we zelfs al in een heel ander mediaecosysteem leven dan een jaar of twee geleden.
Tegelijkertijd leven we in een ecosysteem waarin minder nieuws wordt geproduceerd en waarin traditioneel nieuws – het alternatief voor dat sociale systeem – er slecht aan toe is. Dus in sommige opzichten bevinden we ons nu in de slechtste van alle mogelijkheden. We hebben niet zo’n robuust traditioneel mediaecosysteem als we ooit hadden, en het socialemediaecosysteem waarvan we hadden gehoopt dat dit het traditionele zou aanvullen, is in toenemende mate disfunctioneel en gewoon niet meer zo bruikbaar als het ooit was. Ik denk dat we daardoor behoorlijk traag zijn geworden als het gaat om het begrijpen van bepaalde gebeurtenissen.’