Tag: Yuval noah Harari

  • Yuval Noah Harari: ‘Ik had veel ideeën, maar niemand wilde luisteren. Nu is het andersom’

    Yuval Noah Harari: ‘Ik had veel ideeën, maar niemand wilde luisteren. Nu is het andersom’

    Tien jaar na de publicatie van Sapiens, een van de opzienbarendste boeken van de vorige eeuw, sprak El Mundo met auteur Yuval Noah Harari over hoe dit werk zijn leven veranderde en hoe hij werd verheven tot orakel voor CEO’s en presidenten.

    Toen een virus de wereld angst aanjoeg en op slot deed, hengelden alle grote media naar de mening van Yuval Noah Harari (Haifa, 1976). Om die te krijgen, moest men een verzoek indienen bij de uitgeverijen in de landen die hem publiceren of bij zijn literair agent. Een bevestigend antwoord verleende prestige aan het medium en leverde extra lezers of kijkers op.

    Hetzelfde gebeurde op de dag dat Vladimir Poetin zijn leger opdroeg om Oekraïne binnen te vallen. En toen ChatGPT ons duidelijk maakte dat kunstmatige intelligentie geen futuristisch fenomeen is, maar al lang en breed bestaat en misschien wel ons werk kan overnemen – zelfs eerder dan we dachten. En wat te denken van de oorlog van Israël met Hamas? Iedereen wil het van Harari weten.

    Het bijzonderste aan deze jacht is dat deze extreem gewilde man noch epidemioloog, noch professor Internationale Betrekkingen is. Noch computerwetenschapper. Harari is historicus.

    Maar dat maakt dus niet uit. Zijn populariteit en charisma zijn zo groot dat het niet verwonderlijk was geweest als een doorgewinterde journalist hem zou hebben geprobeerd te strikken voor een verklaring over Rubiales [de voormalige in opspraak geraakte voorzitter van de Spaanse voetbalbond] of de amnestie van Puigdemont [leider van een separatistische Catalaanse politieke partij]. Harari is een orakel geworden, of een gebeurtenis nu plaatsvindt in Tel Aviv, in Washington of in Tokio. In Pretoria of in Madrid. 

    En hij kijkt niet alleen vooruit, maar ook achteruit. Sapiens gaat over het verleden, Homo Deus over de toekomst. Waarom zouden we hem niet vragen naar het heden? Een redelijk recent idee, evengoed. ‘Tien jaar geleden wilde niemand me ergens over interviewen,’ zegt Harari. ‘Ik had veel ideeën die ik wilde delen, maar geen publiek dat naar me wilde luisteren. Nu is het andersom.’

    Be’eri

    Want toen kwam Sapiens, en werd deze tengere man die zeer verzorgd Engels spreekt, Mizrachi-Jood is van Libanese afkomst, homoseksueel en veganist, de intellectueel bij uitstek voor Silicon Valley-tycoons en regeringsleiders. En zijn populariteit neemt nog altijd toe. ‘Ik krijg elke dag verzoeken voor lezingen en interviews. 99 procent daarvan sla ik af. Dat vind ik niet prettig omdat ik het gevoel heb dat ik mensen teleurstel. Toen ik zelfs echt geweldige aanbiedingen begon te weigeren, realiseerde ik me hoezeer mijn leven veranderd is.’

    Deze krant maakt deel uit van die gelukkige 1 procent. Ter gelegenheid van de tiende verjaardag van de publicatie van Sapiens gaat Harari akkoord met het schriftelijk beantwoorden van enkele vragen. Het doel van het interview is om te laten zien hoe het werk van een onbekende professor, geschreven in een taal die door niet meer dan 16 miljoen mensen wordt gesproken, een wereldwijd fenomeen werd en hoe de auteur ervan verwerd tot het orakel van zijn tijd.

    Harari’s antwoorden kwamen iets later dan verwacht vanwege het Hamas-Israël-conflict en zijn zorgen hierover. Het betroffen persoonlijke zorgen, die verder reiken dan zijn Israëlisch’ staatsburgerschap: zijn oom en tante zijn leden van kibboets Be’eri, die op 7 oktober werd aangevallen. Ze overleefden de aanval door zich in hun huis te verstoppen, terwijl de terroristen hun buren afslachtten.

    Zijn specialisme betrof de autobiografieën van vijftiende- en zestiende-eeuwse soldaten. Niet erg verleidelijk voor een uitgever

    De geschiedenis van Sapiens is fascinerend. Vooral als je bedenkt dat er 25 miljoen exemplaren van zijn verkocht in maar liefst 64 talen. Het werk werd niet alleen geprezen, maar ook bekritiseerd. Critici spreken van gebrek aan originaliteit, gebrek aan wetenschappelijke nauwkeurigheid en vooral ‘populisme’. Misschien nog het meest verbazingwekkend is dat deze bestseller niet zoals gewoonlijk werd geschreven door een Angelsaksische academicus. In dit geval was de auteur dus die jonge historicus die doceerde aan de universiteit van Haifa, en werd het boek geschreven in het Hebreeuws.

    Zoals de meeste wetenschappers had Harari een proefschrift geschreven dat bedoeld was voor een handjevol experts, niet voor het grote publiek. Zijn specialisme betrof de autobiografieën van vijftiende- en zestiende-eeuwse soldaten. Niet erg verleidelijk voor een uitgever.

    Maar alles veranderde toen Harari Guns, Germs and Steel las, een bestseller van de Amerikaanse geograaf en schrijver Jared Diamond. Een openbaring. Dankzij dit boek kwam hij tot de conclusie dat het mogelijk was om een essay te schrijven vanuit mondiaal perspectief. Het idee voor Sapiens was geboren.

    ‘Een paar jaar later, toen ik docent was geworden, stemde ik ermee in om een cursus te geven die ik Inleiding tot de Wereldgeschiedenis noemde. Na een tijdje merkte ik dat er kopieën van mijn aantekeningen begonnen te circuleren, ook onder mensen die niet ingeschreven stonden.’

    Dat was een extra aanmoediging om zijn lesmateriaal om te zetten in een boek. Maar van succes was nog geen sprake. ‘Hoewel Sapiens het goed deed in Israël, was het niet eenvoudig om het in het Engels te publiceren,’ legt Harari uit. ‘Gelukkig vond mijn man een geweldige agent, waarna we drie jaar lang aan de vertaling hebben gewerkt. Mensen denken weleens dat mijn succes van de ene op de andere dag tot stand is gekomen, maar tussen het moment dat ik Sapiens begon te schrijven en de dag dat het een wereldwijd publiek had, zit bijna tien jaar.’

    Mythen

    Ook opvallend is dat Harari’s manuscript door vier Israëlische uitgevers werd afgewezen voordat het werd uitgegeven. Ondanks navraag heeft El Mundo niet kunnen achterhalen of deze achteraf zeer pijnlijke gebeurtenissen hebben geleid tot een toename van het aantal zelfmoorden onder de uitgevers in zijn land.

    ‘Misschien is het meest verleidelijke aan Sapiens wel dat het gaat over de kracht van fictieve verhalen om de geschiedenis vorm te geven. Aangezien ik ben opgegroeid in Israël, realiseerde ik me heel goed in hoeverre deze verhalen kunnen leiden tot de mobilisatie van grote groepen mensen, en zelfs tot conflicten. De ellende in dit deel van de wereld komt niet voort uit een gebrek aan voedsel of uit territoriale ambities, maar is ontstaan door de mythen die mensen elkaar vertellen. Ik weet zeker dat ik me door mijn leven in het Midden-Oosten meer bewust ben geworden van de kracht van verhalen dan wanneer ik in de VS of Groot-Brittannië zou zijn geboren.’

    Door Sapiens realiseerde Harari zich dat zowel zijn geografische als zijn persoonlijke omstandigheden invloed hebben op zijn werk. Zo heeft zijn homoseksualiteit invloed op de manier waarop hij zijn onderzoekswerk benadert, omdat die er voor zorgde dat hij van jongs af aan verhalen van de werkelijkheid leerde onderscheiden.

    ‘Israël was in de jaren tachtig een zeer homofoob land, en dat betekende voor mij dat ik me altijd anders voelde. Het was moeilijk, maar het zette me ook aan het denken. Als tiener kreeg ik te horen dat jongens zich tot meisjes voelen aangtrokken en dat iets anders ingaat tegen zowel de wetten van de natuur als die van God. Het duurde een tijd voordat ik begreep dat ook dat fictie was, dat homoseksualiteit geen enkele natuurwet overtreedt.’ Dat leidde voor Harari tot de vraag: ‘Hoe zit het met God? Als hij zou bestaan, waarom zou hij mensen dan straffen voor de liefde?’

    Harari’s invloed is zo groot dat in een land als Hongarije de regering van Viktor Orbán heeft geprobeerd zijn literaire werk te censureren. Een van zijn kinderboeken, dat onder andere gaat over een echtpaar van twee moeders en het verhaal van een alleenstaande moeder, kreeg een specifiek omslag. Zoals Harari het noemt, ging het ‘in quarantaine’.

    ‘Het bevat geen seksscènes of iets anders wat ongepast zou zijn voor jonge lezers,’ zegt Harari. ‘Voor zover ik weet, wordt de bijbel in Hongarije niet verkocht met een speciaal omslag, ook al staan er zeer expliciete beschrijvingen in van verkrachtingen en incest, die niet echt geschikt zijn voor een jeugdig publiek.’

    ‘Fictieve verhalen geven niet alleen onze samenlevingen vorm, ze veroorzaken ook conflicten’

    In zijn toespraken refereert Harari altijd wel aan menselijke vrijheid, of het nu vrijheid van meningsuiting, seksuele vrijheid of vrijheid van godsdienst is. Uit zijn futuristische voorspellingen spreekt de angst voor de overheersing van mensen door machines – Harari heeft een hang naar het apocalyptische. Wel leerde Harari zijn man, zo vertelde hij in een interview in het Amerikaanse CBS-programma 60 Minutes, kennen via een datingapp. Harari is dus net als iedereen in zekere mate prooi van het dataïsme.

    Een van de belangrijkste boodschappen uit Sapiens, is dat onze soort haar vermogen om de wereld te domineren dankt aan de flexibele samenwerking tussen grote groepen mensen en aan ons geloof in denkbeeldige entiteiten zoals goden, geld of mensenrechten. Wat wij vooruitgang noemen, is in werkelijkheid een zeer goed uitgewerkt fictief verhaal, dat onze economische en institutionele structuren bijeenhoudt.

    In de recente speciale tiendejubileumeditie van Sapiens maakt de auteur een technofoob grapje: hij liet de inleiding schrijven door een kunstmatige-intelligentietool. In zijn beoordeling daarvan schrijft hij: ‘De resulterende tekst is in literair en intellectueel opzicht een mengelmoes. Voorlopig ben ik gerustgesteld: GPT-3 zal mijn baan niet innemen, tenminste voorlopig nog niet. Aan de andere kant sta ik versteld. Ik las de tekst met open mond, stomverbaasd en vol ongeloof.’ Hij geeft toe dat het hem ‘een minuut of twee’ kostte om zichzelf ervan te overtuigen dat de tekst niet van eigen hand was.

    Als AI in staat is om verhalen te vertellen zoals wij dat door de eeuwen heen hebben gedaan, brengt die vaardigheid ons als soort dan in gevaar?

    ‘De mythen en legenden die ons verteld zijn lopen vaak erg uiteen, maar ze hebben allemaal één eigenschap gemeen: ze zijn alle geboren uit de menselijke geest. Nu hebben geavanceerde AI-systemen onze taal gehackt en vertellen ze verhalen zoals de onze. Dat is inderdaad een groot gevaar voor ons. De verhalen geven niet alleen onze samenlevingen vorm, ze veroorzaken ook conflicten. Bedenk hoe moeilijk het vandaag de dag is om te communiceren met iemand die in andere verhalen gelooft dan jij. Stel je nu eens voor hoe moeilijk het zal zijn als er grote groepen mensen zijn wier geloofssystemen door AI zijn gecreëerd. De toenemende aanwezigheid van deze technologie in ons leven zal het ons misschien nog moeilijker maken om elkaar te begrijpen. Het zou kunnen betekenen dat we uiteindelijk allemaal in de hallucinatie van kunstmatige intelligentie leven.’

    Of we nu wel of niet in een gecomputeriseerde matrix leven, Harari heeft veel te danken aan Sapiens. Het boek veranderde hem van anonieme auteur in goeroe van beroemdheden en leiders.

    Hij erkent dat deze bevoorrechte positie zijn beeld van machthebbers heeft veranderd, van wie hij vroeger dacht dat ze een unieke visie op de menselijke natuur hadden. ‘Als dat zo is, dan houden ze die goed geheim,’ zegt hij. Nu wekt hij meer nieuwsgierigheid bij hen op dan andersom. Veel van ’s werelds hooggeplaatsten vragen hem naar zijn profetieën. Wat betreft hun zorgen wijkt het brein van bijvoorbeeld een groot politicus niet veel af van die van bijvoorbeeld een winkelier, heeft Harari gemerkt. ‘Daarom zeg ik tegen politici en zakenmensen die mij om advies vragen, wat ik tegen iedereen zeg: neem de tijd om even uit te schakelen. Van tijd tot tijd hebben we allemaal behoefte aan een informatieloze periode van een dag of twee. Deze mensen voelen een enorme druk om altijd maar verbonden te blijven.’ En hij voegt eraan toe: ‘Hoe machtig iemand ook is, doorgaans heeft diegene geen controle over de eigen geest.’

    Wat in ieder geval duidelijk is, is dat Harari controle wil hebben over zijn eigen tijd; de reden dat hij slechts ‘1 procent’ accepteert van de vele aanbiedingen die hij dagelijks krijgt. Zo houdt hij tijd over om te schrijven.

    Tot slot, wat is het grootste nadeel aan de roem die Sapiens u heeft opgeleverd?

    ‘De constante selfies.’

  • Yuval Noah Harari over identiteitspolitiek: ‘Het is een bekrompen stamverhaal’

    Yuval Noah Harari over identiteitspolitiek: ‘Het is een bekrompen stamverhaal’

    Volgens historicus Yuval Noah Harari omvat onze identiteit zoveel meer dan tegenwoordig vaak wordt aangenomen. ‘Als je je richt op slechts één deel ervan en je inbeeldt dat dat het enige is wat telt, zul je niet begrijpen wie je werkelijk bent.’

    Vraag je je af wie je bent, waar je vandaan komt en wat je identiteit is? Ieder mens waagt zich aan deze belangrijke en boeiende zoektocht. Maar het kan ook gevaarlijk zijn. Als ik mijn identiteit op een duidelijke manier probeer af te bakenen, sluit ik anderen mogelijk buiten. Ik zou tot de conclusie kunnen komen dat mijn identiteit wordt bepaald door het feit dat ik tot één specifieke groep mensen behoor, en daardoor alle aspecten van mijn leven negeren die niet te rijmen zijn met die indeling.

    De mens is echter een ongelofelijk complex wezen. Als je je richt op slechts één deel van je identiteit en je inbeeldt dat dat het enige is wat telt, zul je niet begrijpen wie je werkelijk bent. Voor mij als Jood is het bijvoorbeeld duidelijk dat de Joodse geschiedenis en cultuur belangrijke onderdelen van mijn identiteit zijn. Maar de Joodse geschiedenis is lang niet genoeg om te verklaren wie ik ben. Ik ben opgebouwd uit allerlei elementen die overal vandaan komen.

    Ik houd van voetbal, dat heb ik van de Britten. Zij hebben het spel uitgevonden. Dus als ik een bal in het doel schiet, ben ik een beetje Brits. ’s Ochtends drink ik graag koffie. Dat heb ik te danken aan de Ethiopiërs, die het drankje ontdekten, en de Arabieren en Turken, die het over de hele wereld verspreidden. Ik zoet mijn koffie graag met een lepel suiker, dankzij de Papoea’s, die meer dan achtduizend jaar geleden in Nieuw-Guinea suikerriet domesticeerden. Soms leuk ik mijn koffie op met een stuk chocolade, waardoor ik in verbinding sta met de tropische wouden van Midden-Amerika en het Amazonegebied, waar inheemse Amerikanen mogelijk vijfduizend jaar geleden al begonnen cacao te verbouwen.

    Sommige Joden houden niet van voetbal, drinken geen koffie en mijden suiker en chocolade. Toch hebben ook zij veel te danken aan andere culturen. Het Hebreeuws, de heilige taal van het jodendom, heeft veel van zijn woorden, zinnen en basisstructuren ontleend aan andere talen, zoals het Fenicisch, Akkadisch, Grieks, Arabisch en vooral Aramees. Grote delen van het Oude Testament zijn niet in het Hebreeuws geschreven, maar in het Aramees, evenals grote delen van de Misjna, de Talmoed en andere belangrijke joodse teksten. De oude Arameeërs vereerden de god Haddad in plaats van Jehova en doodden verscheidene Joodse koningen. Maar Aramese elementen zijn moeilijk weg te denken uit de Hebreeuwse taal en de Joodse cultuur. Tijdens de rouw bidden orthodoxe joden het Kaddisj-gebed, dat uit Aramese klanken is opgebouwd. Zo’n vijfentwintighonderd jaar geleden verruilden de joden hun eigen Hebreeuwse schrift voor het Aramees, wat tot op de dag van vandaag wordt gebruikt in onder andere de Thora, de Talmoed en in dagbladen.

    Code

    Meer in het algemeen hebben we de uitvinding van het schrift niet te danken aan de Arameeërs, maar aan de oude Sumeriërs. Duizenden jaren voordat de eerste Jood leefde, verzonnen een paar Sumerische studiebollen iets slims: ze gebruikten een stok om tekens in een stuk klei te kerven. Voor deze tekens bedachten ze een code en ze creëerden de schrijftechnologie die ons uiteindelijk boeken, kranten en websites opleverde.

    Het jodendom keek niet alleen voor de taal en het schrijfsysteem buiten de deur, maar ook voor een aantal centrale, religieuze vraagstukken. Zo staat bijvoorbeeld nergens in de Thora vermeld dat de mens een eeuwige ziel heeft die in het hiernamaals gestraft of beloond zal worden. Dat was duidelijk geen essentieel onderdeel van het bijbelse jodendom. De God van het Oude Testament belooft de mensen nergens dat ze, als ze zijn geboden gehoorzamen, eeuwige gelukzaligheid in de hemel zullen genieten, en dreigt nergens dat ze, als ze zondigen, voor eeuwig in de hel zullen branden. Dat het jodendom centrale, religieuze vraagstukken van externe bronnen heeft afgekeken, is dus eigenlijk te voorzichtig geformuleerd. In feite zijn centrale, religieuze overtuigingen ook buiten de eigen traditie ontstaan.

    Het jodendom nam het geloof in het eeuwige leven voornamelijk over van de Griekse filosofie van Plato en de Perzische religie van het Zoroastrisme. Aan de Perzen ontleenden de joden ook het concept van de duivel en de Messias. Het merendeel van wat ons in leven houdt en alles de moeite waard maakt – van voeding tot filosofie, van geneeskunde tot kunst – is niet uitgevonden door een specifiek volk, maar door mensen van over de hele wereld. Dit geldt niet alleen voor Joden, maar voor alle mensen. 

    Iemand die Afrikaanse culturen wilde beschimpen, vroeg ooit laatdunkend: ‘Wie is de Tolstoj van de Zoeloes?’ Deze persoon leek te geloven dat geen enkele Afrikaanse cultuur – hetzij Zoeloe, hetzij welk Afrikaans volk dan ook – literaire werken heeft voortgebracht die vergelijkbaar zijn met Tolstojs Oorlog en Vrede of Anna Karenina. Ralph Wiley, een Afro-Amerikaanse journalist, had op deze uitdaging een eenvoudig antwoord. Hij kwam niet aanzetten met een lijst Zoeloe-auteurs, zoals Benedict Wallet Vilakazi, Mazisi Kunene of John Langalibalele Dube. Evenmin benadrukte hij dat Afrikaanse auteurs als Chinua Achebe, Chimamanda Ngozi Adichie of Ngũgĩ wa Thiong’o even goed waren als westerse. Wiley omzeilde de valstrik volledig: in zijn boek Dark Witness schreef hij dat ‘Tolstoj de Tolstoj van de Zoeloes is – tenzij je het nuttig vindt om je universele, menselijke kwaliteiten toe te eigenen en die als stambezit te beschouwen’.

    Tolstoj spreekt over gevoelens, vragen en inzichten die even relevant zijn voor mensen in Durban en Johannesburg als voor die in Moskou en Sint-Petersburg

    Tolstoj is in tegenstelling tot wat fanatieke racisten en hardcore muggenzifters van ‘culturele toe-eigening’ beweren, niet het exclusieve eigendom van de Russen. Hij is van alle mensen. Zelf is Tolstoj sterk beïnvloed door de ideeën van buitenlanders als de Fransman Victor Hugo en de Duitser Arthur Schopenhauer, om nog maar te zwijgen van Jezus en Boeddha. Tolstoj spreekt over gevoelens, vragen en inzichten die even relevant zijn voor mensen in Durban en Johannesburg als voor die in Moskou en Sint-Petersburg.

    Tweeduizend jaar geleden schreef de Afrikaans-Romeinse toneelschrijver Terentius, een vrijgemaakte slaaf, iets vergelijkbaars: ‘Ik ben een mens, en niets menselijks is mij vreemd.’ Ieder mens is een erfgenaam van de hele menselijke schepping. Mensen die in hun zoektocht naar identiteit hun wereld reduceren tot de geschiedenis van één enkele natie keren hun menselijkheid de rug toe. Ze veronachtzamen wat ze delen met alle andere mensen. En ze veronachtzamen iets nog veel diepers. Alle uitvindingen en ideeën die de mens de laatste paar duizend jaar tot wasdom heeft gebracht, zijn slechts de bovenlaag van wie wij zijn. Onder die korst, in de diepten van je lichaam en je geest, bevinden zich vele lagen die zich in miljoenen jaren hebben ontwikkeld, lang voordat er überhaupt mensen waren. Dit diepe mysterie manifesteert zich in alles wat ik voel en denk. Om te begrijpen wie ik ben, moet ik me openstellen voor dit mysterie en het onderzoeken. Ik moet geen genoegen nemen met een verhaal dat me koppelt aan een stam die een paar duizend jaar op een paar heuvels bij een rivier heeft geleefd.

    Vlinders

    Denk bijvoorbeeld aan onze paringsrituelen. Wat voel je als je iemand ziet die je aantrekkelijk vindt, als je voor het eerst iemands hand vasthoudt, als je voor het eerst met iemand zoent? Denk aan die achtbaan van emoties, de hoop en de angst, de vlinders in de buik, de stijgende lichaamstemperatuur en de versnelde ademhaling. Wat zijn dat toch voor verschijnselen, waaraan schrijvers en zangers al eeuwenlang aandacht besteden?

    Deze zijn niet uitgevonden door Joden, Arameeërs, Russen of Zoeloes. Sterker nog: ze zijn helemaal niet uitgevonden door mensen. De evolutie heeft ze in miljoenen jaren gevormd, en je deelt ze niet alleen met alle andere mensen, maar ook met chimpansees, dolfijnen, beren en vele andere dieren. Religieuze rituelen zoals de joodse bar mitswa of de christelijke eucharistie zijn hooguit tweeduizend jaar oud en verbinden de huidige generatie met ongeveer honderd generaties daarvoor. Rituelen bij zoogdieren zijn daarentegen tientallen miljoenen jaren oud en verbinden je met miljoenen voorgaande generaties zoogdieren en zelfs met voorouders vóór de zoogdieren.

    Als ik mijn identiteit beperk tot een bepaalde groep mensen, dan ga ik aan dat alles voorbij. Dan laat ik weinig ruimte over voor voetbal en chocolade, voor Aramees en Tolstoj, of zelfs voor romantiek. Wat overblijft, is een bekrompen stamverhaal dat in de strijd om identiteitspolitiek een effectief wapen kan zijn, maar ook een hoge prijs heeft. Zolang ik me vasthoud aan dat bekrompen verhaal, zal ik nooit de waarheid over mezelf kennen.

    Lees ook:

  • Yuval Noah Harari: ‘AI is in staat om intieme relaties met miljoenen mensen te kweken’

    Yuval Noah Harari: ‘AI is in staat om intieme relaties met miljoenen mensen te kweken’

    AI heeft het besturingssysteem van de menselijke beschaving gehackt, wat de loop van de menselijke geschiedenis zal veranderen, aldus historicus en denker Yuval Noah Harari. ‘Als ik een gesprek met iemand voer en niet weet of het een mens is of een AI, dan betekent dat het einde voor de democratie.’

    De angst voor kunstmatige intelligentie (AI) heeft de mensheid sinds het allereerste begin van het computertijdperk achtervolgd. Eerst richtte deze angst zich op machines die fysieke middelen gebruikten om mensen te doden, tot slaaf te maken of te vervangen. Maar de afgelopen paar jaar zijn er nieuwe AI-tools opgedoken die het overleven van de menselijke beschaving vanuit onverwachte hoek bedreigen. AI is inmiddels in staat om taal te manipuleren en te genereren, of het nu is met woorden, geluiden of beelden, en heeft daarmee het besturingssysteem van onze beschaving gehackt.

    Bijna de hele menselijke cultuur bestaat uit taal. Mensenrechten zitten bijvoorbeeld niet in ons DNA. Het zijn culturele artefacten, die we hebben gecreëerd door het vertellen van verhalen en het schrijven van wetten. Goden zijn geen fysieke realiteiten, maar culturele artefacten die we hebben gecreëerd door het verzinnen van mythen en het schrijven van heilige geschriften.

    Ook geld is een cultureel artefact. Bankbiljetten zijn gewoon kleurige stukjes papier, en momenteel bestaat meer dan negentig procent van het geld niet eens meer uit bankbiljetten, maar uit digitale informatie in computers. Geld ontleent zijn waarde aan de verhalen die bankiers, ministers van Financiën en cryptogoeroes ons erover vertellen. Sam Bankman-Fried, Elizabeth Holmes en Bernie Madoff waren niet zo goed in het creëren van werkelijke waarde, maar ze waren allemaal uiterst kundige verhalenvertellers.

    Wat zou er gebeuren als een niet-menselijke intelligentie beter wordt in verhalen vertellen, melodieën componeren, tekeningen maken en wetten en heilige geschriften schrijven dan de gemiddelde menselijke intelligentie? Wanneer mensen het over ChatGPT en andere nieuwe AI-tools hebben, denken ze vaak aan scholieren die AI gebruiken om hun opstellen te schrijven. Wat zal er met het schoolsysteem gebeuren als kinderen dat doen? Maar dit soort vragen gaat voorbij aan het algehele beeld. Vergeet opstellen. Denk aan de volgende Amerikaanse presidentsverkiezingen in 2024, en probeer je de impact van AI-tools voor te stellen waarmee op massale schaal politieke content, nepnieuws en heilige geschriften voor nieuwe cultussen kunnen worden gecreëerd.

    Alwetend orakel

    De afgelopen jaren heeft de QAnon-cultus zich uitgeleefd in anonieme onlineberichten, de zogenaamde ‘q-drops’. Volgers verzamelden, vereerden en interpreteerden deze q-drops als een heilige tekst. Hoewel voor zover wij weten alle eerdere q-drops door mensen werden opgesteld, en bots alleen maar hielpen om ze te verspreiden, zouden we in de toekomst de eerste cultussen in de geschiedenis kunnen zien waarvan de heilige teksten door een niet-menselijke intelligentie zijn geschreven. Religies hebben de hele geschiedenis lang beweerd dat hun heilige boeken van een niet-menselijke bron afkomstig waren. Dat zou spoedig de werkelijkheid kunnen worden.

    Op een prozaïscher niveau zouden we weldra langdurige onlinediscussies over abortus, klimaatverandering of de Russische invasie in Oekraïne kunnen voeren met entiteiten die we aanzien voor mensen, maar die in werkelijkheid AI zijn. Addertje onder het gras is dat al onze pogingen om een AI-bot op andere gedachten te brengen volstrekt zinloos zullen zijn, terwijl de AI haar boodschappen zo loepzuiver kan afstemmen dat de kans groot is dat we ons erdoor laten beïnvloeden.

    Dankzij haar taalbeheersing zou AI zelfs intieme relaties met mensen kunnen aangaan en de kracht van de intimiteit kunnen gebruiken om onze meningen en ons wereldbeeld te veranderen. Hoewel er geen enkele aanwijzing is dat AI over een eigen geweten of eigen gevoelens beschikt, hoeft ze alleen maar een emotionele band met mensen te kweken om op intieme voet met ze te geraken. In juni 2022 beweerde Blake Lemoine, een softwareontwikkelaar van Google, publiekelijk dat de AI-chatbot Lamda, waaraan hij werkte, gevoelens had ontwikkeld. Deze controversiële bewering kostte hem zijn baan. Het interessantst aan het voorval was niet Lemoines bewering, die vermoedelijk onwaar was, maar zijn bereidheid om zijn lucratieve baan op het spel te zetten ten behoeve van de AI-chatbot. Als AI mensen zo ver kan krijgen dat ze hun baan op het spel zetten, waar kan ze hen dan nog meer toe verleiden?

    In een politiek gevecht om het hoofd en hart van mensen te winnen, is intimiteit het meest efficiënte wapen, en AI is inmiddels in staat om intieme relaties met miljoenen mensen te kweken. We weten allemaal dat de strijd om de aandacht van mensen het afgelopen decennium in toenemende mate in de sociale media is gevoerd. Met de nieuwe generatie AI-tools wordt deze strijd van aandacht naar intimiteit verlegd. Wat gebeurt er met de menselijke samenleving en de menselijke psychologie wanneer AI in het strijdperk treedt tegen AI om intieme neprelaties met ons te kweken, die vervolgens kunnen worden gebruikt om ons ervan te overtuigen dat we op bepaalde politici moeten stemmen of bepaalde producten moeten kopen?

    Mensen zouden één enkele AI-adviseur als een alwetend orakel op ieder gebied kunnen gaan gebruiken

    Zelfs zonder het kweken van ‘nepintimiteit’ zouden de nieuwe AI-tools al een immense invloed hebben op onze meningen en ons wereldbeeld. Mensen zouden één enkele AI-adviseur als een alwetend orakel op ieder gebied kunnen gaan gebruiken. Geen wonder dat Google doodsbang is. Waarom zou ik nog op zoek gaan als ik het gewoon aan het orakel kan vragen? De nieuws- en reclame-industrie zou ook doodsbang moeten zijn. Waarom nog een krant lezen als ik gewoon aan het orakel kan vragen me het laatst nieuws te vertellen? En wat hebben advertenties voor zin als ik gewoon aan het orakel kan vragen wat ik moet kopen?

    En zelfs deze scenario’s weten het totaalbeeld niet echt te schetsen. We hebben het hier over het mogelijke einde van de menselijke geschiedenis. Niet het einde van alle geschiedenis, alleen van het door mensen gedomineerde deel daarvan. Geschiedenis is de interactie tussen biologie en cultuur; tussen enerzijds onze biologische behoefte aan dingen als eten en seks en anderzijds onze culturele scheppingen als religies en wetten. Geschiedenis is het proces waarmee wetten en religies eten en seks vormgeven. 

    Wat zal er met de loop van de geschiedenis gebeuren als AI de cultuur overneemt en verhalen, melodieën, wetten en religies gaat creëren? Eerdere hulpmiddelen als de drukpers en de radio hielpen de culturele ideeën van mensen te verspreiden, maar ze hebben nooit uit zichzelf nieuwe culturele ideeën gecreëerd. Met AI is het wezenlijk anders gesteld. AI kan geheel nieuwe ideeën creëren, een geheel nieuwe cultuur.

    De komende decennia zouden we weleens in de dromen van een buitenaardse intelligentie verzeild kunnen raken

    Aanvankelijk zal AI vermoedelijk de menselijke prototypes imiteren waarop ze in haar kinderjaren heeft geoefend. Maar met elk jaar dat verstrijkt zal de AI-cultuur onversaagd meer terreinen gaan verkennen waar nog geen mens ooit is geweest. Al duizenden jaren lang leven mensen in de dromen van andere mensen. De komende decennia zouden we weleens in de dromen van een buitenaardse intelligentie verzeild kunnen raken.

    De angst voor AI achtervolgt de mensheid pas de afgelopen decennia. Maar duizenden jaren lang is de mens achtervolgd door een veel grotere angst. We hebben altijd oog gehad voor de manier waarop verhalen en beelden onze geest kunnen manipuleren en illusies kunnen scheppen. Bijgevolg is de mens al sinds onheuglijke tijden bang in een wereld van illusies verstrikt te raken.

    Illusies

    In de zeventiende eeuw vreesde René Descartes dat een boze geest hem misschien in een wereld van illusies verstrikte en alles schiep wat hij zag en hoorde. In het oude Griekenland schreef Plato zijn beroemde ‘Allegorie van de Grot’, waarin een groep mensen zijn leven lang geketend in een grot zit, met uitzicht op een blinde muur. Een scherm. Op dat scherm zien ze diverse schaduwen geprojecteerd. De gevangenen zien de illusies die ze daar waarnemen voor de werkelijkheid aan.

    In het oude India verkondigden boeddhistische en hindoeïstische sages dat alle mensen verstrikt waren in de Maya, de wereld van illusies. Wat we normaliter voor de werkelijkheid aanzien zijn vaak slechts verzinsels van onze eigen geest. Vanwege hun geloof in deze of gene illusie kunnen mensen hele oorlogen voeren, anderen doden en bereid zijn ook zelf gedood te worden.

    De AI-revolutie confronteert ons met de boze geest van Descartes, met de grot van Plato, met de Maya. Als we niet oppassen, kunnen we verstrikt raken achter een gordijn van illusies, dat we niet kunnen wegrukken en waarvan we de aanwezigheid misschien niet eens vermoeden.

    De vraag die momenteel voorligt is hoe we ervoor kunnen zorgen dat de nieuwe AI-tools voor goede doelen worden aangewend en niet voor slechte

    Natuurlijk kan de nieuwe macht van AI ook voor goede doelen worden aangewend. Daar zal ik verder niet over uitweiden, want dat doen de ontwikkelaars ervan zelf al genoeg. Het is de taak van historici en filosofen zoals ik om op de gevaren te wijzen. Maar AI kan ons zeker ook op talloze manieren helpen, van het ontdekken van nieuwe middelen tegen kanker tot het vinden van oplossingen voor de ecologische crisis. De vraag die momenteel voorligt is hoe we ervoor kunnen zorgen dat de nieuwe AI-tools voor goede doelen worden aangewend en niet voor slechte. Daarvoor moeten we eerst begrijpen waar deze tools werkelijk toe in staat zijn.

    Sinds 1945 weten we dat kerntechnologie goedkope energie kan genereren ten bate van mensen, maar ook de menselijke beschaving fysiek te gronde kan richten. We hebben de hele internationale orde opnieuw vorm gegeven om de mensheid te beschermen en ervoor te zorgen dat kerntechnologie voornamelijk ten goede zou worden aangewend. Nu krijgen we te maken met een nieuw massavernietigingswapen dat de ondergang kan betekenen voor onze geestelijke en maatschappelijke wereld.

    We kunnen de nieuwe AI-tools nog steeds aan een systeem van regels onderwerpen, maar dan moeten we wel snel zijn. Waar kernwapens niet in staat zijn krachtiger kernwapens uit te vinden, is AI in staat tot het ontwikkelen van AI die exponentieel krachtiger is. De eerste cruciale stap is het eisen van rigoureuze veiligheidscontroles voordat krachtige AI-tools tot het publieke domein worden toegelaten. Zoals een farmaceutisch bedrijf geen nieuwe medicijnen mag vrijgeven voordat de bijwerkingen op zowel de korte als de lange termijn zijn getest, zouden techbedrijven geen nieuwe AI-tools moeten mogen vrijgeven voordat die gegarandeerd veilig zijn. Er zou een soort keuringsdienst van waren voor nieuwe technologie moeten komen, en wel gisteren.

    Zal het vertragen van de inzet van AI voor openbare doeleinden er niet toe leiden dat democratieën achter gaan lopen op gewetenloze autoritaire regimes? Integendeel. Het ongereguleerd inzetten van AI zou sociale chaos veroorzaken, wat voordelig zou zijn voor autocraten en funest voor democratieën. Democratie is een vorm van gesprek, en voor gesprekken is taal nodig. Wanneer AI de taal hackt, kan het ook ons vermogen vernietigen om zinvolle gesprekken te voeren, en daarmee de democratie.

    De eerste regulering die ik zou willen voorstellen is de verplichting voor AI om te melden dat ze een AI is

    We hebben net kennisgemaakt met een buitenaardse intelligentie, hier op aarde. Veel weten we er nog niet van, behalve dat ze onze beschaving te gronde kan richten. We moeten een halt toeroepen aan het onverantwoordelijk inzetten van AI-tools in de openbare ruimte, en AI reguleren voordat ze ons reguleert. En de eerste regulering die ik zou willen voorstellen is de verplichting voor AI om te melden dat ze een AI is. Als ik een gesprek met iemand voer en niet weet of het een mens is of een AI, dan betekent dat het einde voor de democratie.

    Deze tekst is gegenereerd door een mens.

    Toch?

    Lees ook:

  • Seksrobot

    Seksrobot

    Toen de Amerikaanse ‘seksdokter’ Alfred Kinsey in 1948 zijn rapport publiceerde over het seksleven van mannelijke Amerikanen, veroorzaakte hij een sensatie. Journalisten buitelden over elkaar heen om de uitkomsten te beschrijven van de enquêtes die Kinsey met een groepje getrouwen had gehouden onder duizenden Amerikanen van alle rangen en standen. Zoals het feit dat de helft van de mannen vreemdging, en homoseksualiteit veel wijder verbreid bleek dan gedacht.

    Vijf jaar later leidde zijn tweede studie over vrouwen tot nóg meer opwinding, omdat ook zij veel promiscuer waren dan werd aangenomen. Het hele verhaal is in geuren en kleuren terug te lezen in de uitstekende roman De ingewijden van T.C. Boyle, die begin september te gast is in Amsterdam. Intussen zijn we ruim een halve eeuw verder en is het seksuele speelveld een stuk groter geworden. Op Facebook kun je tegenwoordig op zestig manieren je geslacht beschrijven. Transseksuelen, transgenders en aseksuelen eisen en krijgen steeds meer erkenning, zo blijkt uit ons dossier. Althans, in delen van de wereld. Is de seksuele revolutie daarmee voltooid? Nee, stelt de Amerikaanse seksexpert Laura Berman. Want dankzij de technologie worden onze opties straks nog veel talrijker. Virtualrealityporno, seksrobots, het op afstand stimuleren van je partner met een muisklik: het ligt allemaal binnen handbereik. De film Her, waarin een door Joaquin Phoenix gespeeld personage een relatie krijgt met een computerbesturingssysteem, zal werkelijkheid worden. Berman vindt 
het allemaal prima, maar je kunt je natuurlijk afvragen: wie wil dit nu eigenlijk? Precies die kwestie snijdt de Israëlische historicus Yuval Harari aan in een flonkerend essay, 
dat aanhaakt bij de beroemde vraag van internetactivist Jaron Lanier: Who Owns the Future? [Wie gaat er over de toekomst?] Op dit moment, zegt Harari, is dat een piepklein clubje toekomstprofeten in Silicon Valley met een feilloos businessinstinct en een vreemde mix aan utopische ideeën. Hun intenties lijken doorgaans goed, maar er zitten ook 
mensen tussen die serieus denken onsterfelijk te worden. 
Of die een nieuwe beschaving willen stichten met louter hoogintelligente bewoners. Dat we klakkeloos achter deze figuren aanlopen, betoogt Harari, komt doordat het onze politici aan toekomstvisie ontbreekt. En wie politici zegt, zegt eigenlijk: wijzelf. Met andere woorden: het wordt hoog tijd dat ook u gaat nadenken wat we nu met al die fantastische nieuwe technologie willen. Het is dat, of u zit straks lieve woordjes te fluisteren tegen uw seksrobot.

    Han Ceelen
    ceelen@360international.nl