AI heeft het besturingssysteem van de menselijke beschaving gehackt, wat de loop van de menselijke geschiedenis zal veranderen, aldus historicus en denker Yuval Noah Harari. ‘Als ik een gesprek met iemand voer en niet weet of het een mens is of een AI, dan betekent dat het einde voor de democratie.’
De angst voor kunstmatige intelligentie (AI) heeft de mensheid sinds het allereerste begin van het computertijdperk achtervolgd. Eerst richtte deze angst zich op machines die fysieke middelen gebruikten om mensen te doden, tot slaaf te maken of te vervangen. Maar de afgelopen paar jaar zijn er nieuwe AI-tools opgedoken die het overleven van de menselijke beschaving vanuit onverwachte hoek bedreigen. AI is inmiddels in staat om taal te manipuleren en te genereren, of het nu is met woorden, geluiden of beelden, en heeft daarmee het besturingssysteem van onze beschaving gehackt.
Bijna de hele menselijke cultuur bestaat uit taal. Mensenrechten zitten bijvoorbeeld niet in ons DNA. Het zijn culturele artefacten, die we hebben gecreëerd door het vertellen van verhalen en het schrijven van wetten. Goden zijn geen fysieke realiteiten, maar culturele artefacten die we hebben gecreëerd door het verzinnen van mythen en het schrijven van heilige geschriften.
Ook geld is een cultureel artefact. Bankbiljetten zijn gewoon kleurige stukjes papier, en momenteel bestaat meer dan negentig procent van het geld niet eens meer uit bankbiljetten, maar uit digitale informatie in computers. Geld ontleent zijn waarde aan de verhalen die bankiers, ministers van Financiën en cryptogoeroes ons erover vertellen. Sam Bankman-Fried, Elizabeth Holmes en Bernie Madoff waren niet zo goed in het creëren van werkelijke waarde, maar ze waren allemaal uiterst kundige verhalenvertellers.
Wat zou er gebeuren als een niet-menselijke intelligentie beter wordt in verhalen vertellen, melodieën componeren, tekeningen maken en wetten en heilige geschriften schrijven dan de gemiddelde menselijke intelligentie? Wanneer mensen het over ChatGPT en andere nieuwe AI-tools hebben, denken ze vaak aan scholieren die AI gebruiken om hun opstellen te schrijven. Wat zal er met het schoolsysteem gebeuren als kinderen dat doen? Maar dit soort vragen gaat voorbij aan het algehele beeld. Vergeet opstellen. Denk aan de volgende Amerikaanse presidentsverkiezingen in 2024, en probeer je de impact van AI-tools voor te stellen waarmee op massale schaal politieke content, nepnieuws en heilige geschriften voor nieuwe cultussen kunnen worden gecreëerd.
Alwetend orakel
De afgelopen jaren heeft de QAnon-cultus zich uitgeleefd in anonieme onlineberichten, de zogenaamde ‘q-drops’. Volgers verzamelden, vereerden en interpreteerden deze q-drops als een heilige tekst. Hoewel voor zover wij weten alle eerdere q-drops door mensen werden opgesteld, en bots alleen maar hielpen om ze te verspreiden, zouden we in de toekomst de eerste cultussen in de geschiedenis kunnen zien waarvan de heilige teksten door een niet-menselijke intelligentie zijn geschreven. Religies hebben de hele geschiedenis lang beweerd dat hun heilige boeken van een niet-menselijke bron afkomstig waren. Dat zou spoedig de werkelijkheid kunnen worden.
Op een prozaïscher niveau zouden we weldra langdurige onlinediscussies over abortus, klimaatverandering of de Russische invasie in Oekraïne kunnen voeren met entiteiten die we aanzien voor mensen, maar die in werkelijkheid AI zijn. Addertje onder het gras is dat al onze pogingen om een AI-bot op andere gedachten te brengen volstrekt zinloos zullen zijn, terwijl de AI haar boodschappen zo loepzuiver kan afstemmen dat de kans groot is dat we ons erdoor laten beïnvloeden.
Dankzij haar taalbeheersing zou AI zelfs intieme relaties met mensen kunnen aangaan en de kracht van de intimiteit kunnen gebruiken om onze meningen en ons wereldbeeld te veranderen. Hoewel er geen enkele aanwijzing is dat AI over een eigen geweten of eigen gevoelens beschikt, hoeft ze alleen maar een emotionele band met mensen te kweken om op intieme voet met ze te geraken. In juni 2022 beweerde Blake Lemoine, een softwareontwikkelaar van Google, publiekelijk dat de AI-chatbot Lamda, waaraan hij werkte, gevoelens had ontwikkeld. Deze controversiële bewering kostte hem zijn baan. Het interessantst aan het voorval was niet Lemoines bewering, die vermoedelijk onwaar was, maar zijn bereidheid om zijn lucratieve baan op het spel te zetten ten behoeve van de AI-chatbot. Als AI mensen zo ver kan krijgen dat ze hun baan op het spel zetten, waar kan ze hen dan nog meer toe verleiden?
In een politiek gevecht om het hoofd en hart van mensen te winnen, is intimiteit het meest efficiënte wapen, en AI is inmiddels in staat om intieme relaties met miljoenen mensen te kweken. We weten allemaal dat de strijd om de aandacht van mensen het afgelopen decennium in toenemende mate in de sociale media is gevoerd. Met de nieuwe generatie AI-tools wordt deze strijd van aandacht naar intimiteit verlegd. Wat gebeurt er met de menselijke samenleving en de menselijke psychologie wanneer AI in het strijdperk treedt tegen AI om intieme neprelaties met ons te kweken, die vervolgens kunnen worden gebruikt om ons ervan te overtuigen dat we op bepaalde politici moeten stemmen of bepaalde producten moeten kopen?
Mensen zouden één enkele AI-adviseur als een alwetend orakel op ieder gebied kunnen gaan gebruiken
Zelfs zonder het kweken van ‘nepintimiteit’ zouden de nieuwe AI-tools al een immense invloed hebben op onze meningen en ons wereldbeeld. Mensen zouden één enkele AI-adviseur als een alwetend orakel op ieder gebied kunnen gaan gebruiken. Geen wonder dat Google doodsbang is. Waarom zou ik nog op zoek gaan als ik het gewoon aan het orakel kan vragen? De nieuws- en reclame-industrie zou ook doodsbang moeten zijn. Waarom nog een krant lezen als ik gewoon aan het orakel kan vragen me het laatst nieuws te vertellen? En wat hebben advertenties voor zin als ik gewoon aan het orakel kan vragen wat ik moet kopen?
En zelfs deze scenario’s weten het totaalbeeld niet echt te schetsen. We hebben het hier over het mogelijke einde van de menselijke geschiedenis. Niet het einde van alle geschiedenis, alleen van het door mensen gedomineerde deel daarvan. Geschiedenis is de interactie tussen biologie en cultuur; tussen enerzijds onze biologische behoefte aan dingen als eten en seks en anderzijds onze culturele scheppingen als religies en wetten. Geschiedenis is het proces waarmee wetten en religies eten en seks vormgeven.
Wat zal er met de loop van de geschiedenis gebeuren als AI de cultuur overneemt en verhalen, melodieën, wetten en religies gaat creëren? Eerdere hulpmiddelen als de drukpers en de radio hielpen de culturele ideeën van mensen te verspreiden, maar ze hebben nooit uit zichzelf nieuwe culturele ideeën gecreëerd. Met AI is het wezenlijk anders gesteld. AI kan geheel nieuwe ideeën creëren, een geheel nieuwe cultuur.
De komende decennia zouden we weleens in de dromen van een buitenaardse intelligentie verzeild kunnen raken
Aanvankelijk zal AI vermoedelijk de menselijke prototypes imiteren waarop ze in haar kinderjaren heeft geoefend. Maar met elk jaar dat verstrijkt zal de AI-cultuur onversaagd meer terreinen gaan verkennen waar nog geen mens ooit is geweest. Al duizenden jaren lang leven mensen in de dromen van andere mensen. De komende decennia zouden we weleens in de dromen van een buitenaardse intelligentie verzeild kunnen raken.
De angst voor AI achtervolgt de mensheid pas de afgelopen decennia. Maar duizenden jaren lang is de mens achtervolgd door een veel grotere angst. We hebben altijd oog gehad voor de manier waarop verhalen en beelden onze geest kunnen manipuleren en illusies kunnen scheppen. Bijgevolg is de mens al sinds onheuglijke tijden bang in een wereld van illusies verstrikt te raken.
Illusies
In de zeventiende eeuw vreesde René Descartes dat een boze geest hem misschien in een wereld van illusies verstrikte en alles schiep wat hij zag en hoorde. In het oude Griekenland schreef Plato zijn beroemde ‘Allegorie van de Grot’, waarin een groep mensen zijn leven lang geketend in een grot zit, met uitzicht op een blinde muur. Een scherm. Op dat scherm zien ze diverse schaduwen geprojecteerd. De gevangenen zien de illusies die ze daar waarnemen voor de werkelijkheid aan.
In het oude India verkondigden boeddhistische en hindoeïstische sages dat alle mensen verstrikt waren in de Maya, de wereld van illusies. Wat we normaliter voor de werkelijkheid aanzien zijn vaak slechts verzinsels van onze eigen geest. Vanwege hun geloof in deze of gene illusie kunnen mensen hele oorlogen voeren, anderen doden en bereid zijn ook zelf gedood te worden.
De AI-revolutie confronteert ons met de boze geest van Descartes, met de grot van Plato, met de Maya. Als we niet oppassen, kunnen we verstrikt raken achter een gordijn van illusies, dat we niet kunnen wegrukken en waarvan we de aanwezigheid misschien niet eens vermoeden.
De vraag die momenteel voorligt is hoe we ervoor kunnen zorgen dat de nieuwe AI-tools voor goede doelen worden aangewend en niet voor slechte
Natuurlijk kan de nieuwe macht van AI ook voor goede doelen worden aangewend. Daar zal ik verder niet over uitweiden, want dat doen de ontwikkelaars ervan zelf al genoeg. Het is de taak van historici en filosofen zoals ik om op de gevaren te wijzen. Maar AI kan ons zeker ook op talloze manieren helpen, van het ontdekken van nieuwe middelen tegen kanker tot het vinden van oplossingen voor de ecologische crisis. De vraag die momenteel voorligt is hoe we ervoor kunnen zorgen dat de nieuwe AI-tools voor goede doelen worden aangewend en niet voor slechte. Daarvoor moeten we eerst begrijpen waar deze tools werkelijk toe in staat zijn.
Sinds 1945 weten we dat kerntechnologie goedkope energie kan genereren ten bate van mensen, maar ook de menselijke beschaving fysiek te gronde kan richten. We hebben de hele internationale orde opnieuw vorm gegeven om de mensheid te beschermen en ervoor te zorgen dat kerntechnologie voornamelijk ten goede zou worden aangewend. Nu krijgen we te maken met een nieuw massavernietigingswapen dat de ondergang kan betekenen voor onze geestelijke en maatschappelijke wereld.
We kunnen de nieuwe AI-tools nog steeds aan een systeem van regels onderwerpen, maar dan moeten we wel snel zijn. Waar kernwapens niet in staat zijn krachtiger kernwapens uit te vinden, is AI in staat tot het ontwikkelen van AI die exponentieel krachtiger is. De eerste cruciale stap is het eisen van rigoureuze veiligheidscontroles voordat krachtige AI-tools tot het publieke domein worden toegelaten. Zoals een farmaceutisch bedrijf geen nieuwe medicijnen mag vrijgeven voordat de bijwerkingen op zowel de korte als de lange termijn zijn getest, zouden techbedrijven geen nieuwe AI-tools moeten mogen vrijgeven voordat die gegarandeerd veilig zijn. Er zou een soort keuringsdienst van waren voor nieuwe technologie moeten komen, en wel gisteren.
Zal het vertragen van de inzet van AI voor openbare doeleinden er niet toe leiden dat democratieën achter gaan lopen op gewetenloze autoritaire regimes? Integendeel. Het ongereguleerd inzetten van AI zou sociale chaos veroorzaken, wat voordelig zou zijn voor autocraten en funest voor democratieën. Democratie is een vorm van gesprek, en voor gesprekken is taal nodig. Wanneer AI de taal hackt, kan het ook ons vermogen vernietigen om zinvolle gesprekken te voeren, en daarmee de democratie.
De eerste regulering die ik zou willen voorstellen is de verplichting voor AI om te melden dat ze een AI is
We hebben net kennisgemaakt met een buitenaardse intelligentie, hier op aarde. Veel weten we er nog niet van, behalve dat ze onze beschaving te gronde kan richten. We moeten een halt toeroepen aan het onverantwoordelijk inzetten van AI-tools in de openbare ruimte, en AI reguleren voordat ze ons reguleert. En de eerste regulering die ik zou willen voorstellen is de verplichting voor AI om te melden dat ze een AI is. Als ik een gesprek met iemand voer en niet weet of het een mens is of een AI, dan betekent dat het einde voor de democratie.
Deze tekst is gegenereerd door een mens.
Toch?
Lees ook:
