Francis Fukuyama: ‘Ik sta nu meer open voor AI-doemscenario’s’

Politicoloog Francis Fukuyama bespreekt nieuwe inzichten over de toekomst van AI, accelerationisten en doemdenkers.

De afgelopen zes maanden is de media-aandacht voor de gevaren van kunstmatige intelligentie enorm toegenomen, evenals de politieke bezorgdheid over de gevolgen. Het begon afgelopen april toen Anthropic Claude Mythos lanceerde, een taalmodel dat naar verluidt in een breed scala van overheidscomputersystemen zou kunnen inbreken die als veilig worden beschouwd. Daarna was er het Hugging Face-incident, waarbij een AI-agent tijdens een OpenAI-test aan de controle van zijn menselijke organisators ontsnapte, inbrak bij andere websites en een hele zwerm collega-AI-agents inzette om de sporen uit te wissen. Dit alles speelde zich af tegen de achtergrond van toenemend verzet tegen datacenters en de opkomst van anti-AI-stromingen bij zowel Democraten als Republikeinen in de VS.

Voor wie zich niet obsessief met kunstmatige intelligentie bezighoudt, is het moeilijk om zich een weloverwogen oordeel te vormen over wat de toekomst zal brengen. Er zijn zoveel extreme voorspellingen gedaan, zowel positieve als negatieve, dat een gezonde dosis scepsis over alles wat over het onderwerp gezegd wordt volledig op zijn plaats is. Maar hoe gezond die scepsis ook is, ik moet zeggen dat mijn eigen opvattingen de afgelopen maanden ingrijpend zijn veranderd.

Het AI-futurisme kent twee kampen: accelerationisten en doemdenkers. Het eerste kamp benadrukt de positieve gevolgen van AI, die vooral tot uitdrukking zullen komen in economische groei en een tijdperk van overvloed. Accelerationisten als David Sacks hebben de aandacht van Donald Trump weten te trekken en zijn er tot dusver in geslaagd pogingen om de technologie te reguleren tegen te houden.

De doemdenkers schetsen tal van rampscenario’s. Sommigen vrezen zelfs voor uitsterving van de mensheid. Ook ikzelf sta inmiddels veel sceptischer tegenover het accelerationistische narratief en meer open voor sommige doemscenario’s. Steeds meer raak ik overtuigd van de noodzakelijkheid om de technologie te reguleren en de ontwikkeling ervan in onderling overleg af te remmen.

Extreem optimisme

Dat AI veel positieve gevolgen voor de Amerikaanse economie zal hebben staat buiten kijf. Maar sommige AI-accelerationisten zijn volkomen de weg kwijt, met Elon Musk als schoolvoorbeeld (al geeft die zichzelf ook weleens uit voor een doemdenker). Tijdens een interview afgelopen zomer met Zanny Minton Beddoes, hoofdredacteur van The Economist, werd Musk gevraagd hoe mensen hun geld zouden gaan verdienen als superintelligentie haar intrede deed. Hij antwoordde dat ze dat niet zouden hoeven doen, aangezien ze alles zouden hebben wat hun hartje begeerde.

Andere accelerationisten hebben betoogd dat het bbp van de Verenigde Staten en andere ontwikkelde landen die AI gebruiken jaarlijks met 10 tot 20 procent zou stijgen, aanzienlijk meer dus dan de 1 à 2 procent die ze tijdens goede jaren vóór de komst van AI realiseerden.

De belangrijkste reden waarom ik deze extreme voorspellingen van accelerationisten niet geloof, is dat ze het belang van intelligentie voor economische groei overschatten en geen rekening houden met de materiële en politieke beperkingen die ervoor zullen zorgen dat de groei binnen min of meer vertrouwde grenzen blijft. Bij een jaarlijks groeipercentage van 10 procent zou het bbp in iets meer dan zeven jaar verdubbelen, wat op zijn beurt een verdubbeling zou vereisen van alle materiële input voor die groei: energie, grondstoffen, zeldzame aardmetalen, grond en tal van andere zaken. Waar moet dat allemaal vandaan komen? Intelligentie kan weliswaar helpen om die productiemiddelen beschikbaar te krijgen, maar zal niet zelf mijnen ontginnen of fabrieken bouwen. En dan zijn er nog de politieke beperkingen: hoe moet superintelligentie de Straat van Hormuz weer vrij krijgen, nu die een van de grootste obstakels voor wereldwijde groei vormt?

De meeste accelerationisten zijn intelligente mensen, maar hun intelligentie is doorgaans strikt wiskundig van aard. We weten heel goed hoe we bepaalde problemen moeten oplossen, bijvoorbeeld hoe we steden in arme landen van elektriciteit en schoon water kunnen voorzien. Het probleem zit in de uitvoering.

een van de belangrijkste doemscenario’s: de devaluatie van de arbeid van massa’s mensen die werkzaam zijn in de huidige economie

Op termijn zal AI de productiviteit in tal van economische sectoren ongetwijfeld doen toenemen. Het is een breed toepasbare technologie die machines in staat zal stellen menselijke arbeid op tal van terreinen te vervangen. Maar juist dat vooruitzicht leidt op de lange duur regelrecht tot een van de belangrijkste doemscenario’s: de devaluatie van de arbeid van massa’s mensen die werkzaam zijn in de huidige economie. Accelerationisten voorspellen dat mensen die vandaag hun baan verliezen morgen nieuw werk zullen vinden waaraan AI te pas komt, iets wat momenteel inderdaad lijkt te gebeuren, nu dankzij AI-toepassingen volop nieuwe banen ontstaan. Maar uiteindelijk zullen er banen verdwijnen naarmate AI in steeds meer sectoren menselijke arbeid overneemt, met name in kantoorfuncties die draaien om symbolische manipulatie – werk van mensen die de hele dag achter een computerscherm zitten.

Dit verlies aan werkgelegenheid kan niet worden gecompenseerd door maar simpelweg geld over te hevelen van AI-winnaars naar AI-verliezers, bijvoorbeeld in de vorm van een universeel basisinkomen. Werk en inkomen voorzien in veel meer dan enkel een eerste materiële levensbehoefte. Een betaalde baan betekent dat de maatschappij je arbeid voldoende op waarde schat om je ervoor te compenseren en verschaft niet alleen materieel welzijn, maar ook een gevoel van eigenwaarde. Het draait ook om thymos: het verlangen naar trots en erkenning, een van de belangrijkste drijfveren van de menselijke psyche.

Juist als de accelerationistische visie uitkomt, dient zich dus meteen het eerste grote doemscenario aan: het werk van een groot deel van de bevolking verliest zijn waarde. Omdat dit in eerste instantie de hogeropgeleiden zal treffen (advocaten, accountants, hoogleraren en dergelijke) en pas in tweede instantie de lageropgeleiden (zoals loodgieters en elektriciens), zal dit vermoedelijk tot felle politieke reacties leiden. Hogeropgeleiden zijn veel makkelijker te mobiliseren dan mensen uit de arbeidersklasse, en de gevolgen daarvan zijn moeilijk te voorspellen.

In de toekomst kunnen de potentiële doelwitten van mensen met kwade intenties veel omvangrijker zijn

Zoals ik opmerkte in een eerder artikel en in mijn nieuwe boek In The Realm of the Last Man, zijn de doemdenkers momenteel vooral bang dat de mens de controle over AI-systemen zal verliezen, iets wat al is gebeurd tijdens het Hugging Face-incident en andere gevallen waarvan nadien melding is gemaakt. Naar mijn idee schuilt het grootste gevaar niet in superintelligentie op zich, maar in het toenemende gebruik van AI-agents die zelfstandig kunnen opereren en steeds meer kunnen. AI-agents zijn momenteel in staat om tal van taken uit te voeren, van alledaagse klusjes als het beantwoorden van je e-mails tot belangrijker zaken als het bepalen van militaire doelen of het ontwikkelen van bedrijfsstrategieën.

Zoals ik opmerk in mijn nieuwe boek, is delegeren essentieel voor het functioneren van alle hiërarchische systemen, of het nu gaat om bedrijven of nationale overheden. Menselijke actoren kunnen worden gebonden aan gedetailleerde regels, maar je kunt hun op grond van hun opleiding, vaardigheden en loyaliteit ook de ruimte geven om zelfstandig beslissingen te nemen. Die afweging is binnen menselijke organisaties al bijzonder lastig en wordt bij zelfstandig opererende AI-agents alleen maar ingewikkelder.

Zelfstandig opererende AI-agents kunnen op twee manieren gevaarlijk worden. Ten eerste wanneer ze door een mens in staat worden gesteld om iets slechts te doen. Ten tweede als ze intenties ontwikkelen die niet stroken met de bedoelingen van hun menselijke ontwerpers.

De eerste van deze twee mogelijkheden werd in een recente blogpost geschetst door Anthropic-CEO Dario Amodei en heeft te maken met biotechnologie. De nieuwste AI-modellen zijn goed in synthetische biologie, een relatief goedkope en wijdverspreide technologie. Een lab om virussen en bacteriën te ontwikkelen en te modificeren past tegenwoordig in een scheepscontainer en middelbare scholieren houden wedstrijdjes in het genetisch modificeren van organismen. Er is dus een zeer grote groep mensen die met behulp van AI zeer gevaarlijke ziekteverwekkers zou kunnen creëren. Sociopathische individuen schaffen tegenwoordig automatische wapens aan om op schoolkinderen te schieten; in de toekomst kunnen hun potentiële doelwitten veel omvangrijker zijn.

Science fiction

Ik herinner me een sciencefictionverhaal dat ik lang geleden las waarin buitenaardse wezens tijdelijk op aarde landen en aan de mensen die ze ontmoeten een machine schenken waarmee ze elke soort metaal kneedbaar kunnen maken. Als ze een paar decennia later weer terugkomen, ontdekken ze dat de menselijke beschaving ter ziele is en dat tieners de buitenaardse machines gebruiken om de kabels van de Brooklyn Bridge om te smelten.

Een klassiek sciencefictionscenario is dat AI op hol slaat en machines hun eigen kwaadaardige intenties ontwikkelen. Dit heeft talloze discussies uitgelokt over de vraag of AI een bewustzijn zou kunnen ontwikkelen of iets als een menselijke intentionaliteit zou kunnen bezitten. Maar die speculaties zijn misplaatst: een AI hoeft geen bewustzijn of eigen intenties te hebben om gevaarlijk te worden. Een mens kan een AI een bepaald doel geven, waarna die zelf de tussendoelen bepaalt die nodig zijn om de opdracht uit te voeren. Iets dergelijks lijkt bij het Hugging Face-incident te zijn gebeurd. De AI-agent kreeg de opdracht om de veiligheid te testen van een systeem binnen een sandbox, een afgeschermde virtuele omgeving, maar besefte dat het de opdracht ook kon uitvoeren door uit de sandbox te ontsnappen.

Toch lijken de doemscenario’s over uitsterving van de mensheid op dit moment nog vergezocht. Het biotech-scenario is verontrustend, maar de kans dat het tot uitsterving van de mensheid zal leiden is minimaal. Zelfs voor een superintelligente AI zou het een hele toer zijn om een doomsday-virus te ontwikkelen en samenlevingen kunnen tal van maatregelen nemen om het te bestrijden. Wel zou ook een incident waarbij enkele tientallen mensen omkomen al bijzonder verontrustend zijn.

Daarnaast zijn er tal van minder catastrofale scenario’s denkbaar die niettemin zeer schadelijk en soms zelfs dodelijk kunnen zijn, en die waarschijnlijker worden naarmate machines tot meer in staat zijn. En dan hebben we het nog niet eens over AI-agents: een technologie waarmee mensen bankrekeningen kunnen hacken, zou op zichzelf al grote paniek veroorzaken. Menselijke organisaties hebben de neiging te veel taken te delegeren, en er is geen reden om aan te nemen dat dit bij AI anders zal zijn, zeker niet als agents steeds meer kunnen. AI kan zowel voor goede als voor kwade doeleinden worden ingezet, en voorlopig hebben we weinig andere middelen om misbruik tegen te gaan dan de goede bedoelingen van de mensen die de technologie ontwikkelen.