In tegenstelling tot mensen wordt kunstmatige intelligentie niet gedreven door emoties als triomf of eerzucht. Wat zal het voor de wereld betekenen als machines strategie en staatkunde gaan bepalen?
Of het nu gaat om de herijking van militaire strategieën of het wijzigen van de diplomatische koers, kunstmatige intelligentie zal een belangrijke rol gaan spelen in de wereldorde. Het zal worden ingezet om oorlogen te voeren en om ze te beëindigen. Omdat AI immuun is voor angst en onderlinge gunsten, krijgen we hier te maken met een bepaalde mate van objectiviteit. Maar hierbij moet de menselijke subjectiviteit worden behouden, aangezien deze essentieel is om op verantwoorde wijze geweld uit te oefenen.
De eeuwenlange inspanning van de mensheid om zichzelf te organiseren in steeds complexere structuren en daarmee te voorkomen dat één staat absolute dominantie over anderen verwerft, lijkt een bijna onwrikbare natuurwet te zijn geworden. Zelfs in een wereld waarin kunstmatige intelligentie een centrale rol speelt bij het informeren, adviseren en ondersteunen van besluitvorming, blijven mensen de belangrijkste actoren. Staten zouden daardoor een zekere mate van stabiliteit kunnen behouden, gebaseerd op gedeelde gedragsnormen die voortdurend evolueren en zich aanpassen aan de veranderende dynamiek van de tijd.
Bij machines ontbreekt ieder gevoel voor triomf of eerzucht
Als AI evolueert tot een vrijwel autonome verzameling politieke, diplomatieke en militaire entiteiten, zou dat het eeuwenoude machtsevenwicht ingrijpend kunnen verstoren. Het internationale systeem van natiestaten, met zijn fragiele en voortdurend verschuivende balans, is deels overeind gebleven door de relatieve gelijkwaardigheid van de betrokken spelers. Een wereld waarin ernstige asymmetrie ontstaat – bijvoorbeeld doordat sommige staten AI op topniveau sneller adopteren dan anderen – zou echter aanzienlijk onvoorspelbaarder worden. In situaties waarin mensen militair of diplomatiek moeten opboksen tegen een AI-geavanceerde staat, of zelfs tegen AI zelf, zouden zij mogelijk niet alleen hun concurrentievermogen verliezen, maar ook hun overlevingskansen in gevaar zien komen. Zo’n tussenfase zou kunnen leiden tot een interne ineenstorting van samenlevingen en een ongecontroleerde toename van externe conflicten.
Andere toekomstscenario’s zijn er te over. Waar mensen eeuwenlang oorlogen hebben gevoerd om te winnen, eer te verdedigen of macht te claimen, ontbreekt bij machines ieder gevoel voor triomf of eerzucht. Zij zouden bijvoorbeeld kunnen besluiten om conflicten te vermijden door grondgebied precies te herverdelen via complexe berekeningen. Maar net zo goed kunnen ze, onverschillig voor individuele levens, strategieën kiezen die leiden tot bloedige uitputtingsoorlogen in hun streven naar een doel. In het ene geval zou de menselijke soort zo getransformeerd kunnen worden dat het brutale gedrag uit het verleden volledig wordt achtergelaten. In het andere geval worden we zo overmeesterd door de technologie dat ze ons doet terugkeren naar een barbaars tijdperk.
Het AI-veiligheidsdilemma
Veel landen zijn volledig gericht op het winnen van de ‘AI-race’. Die focus is deels te begrijpen. Factoren als cultuur, geschiedenis, communicatie en perceptie hebben samen geleid tot een diplomatiek klimaat waarin grootmachten elkaar voortdurend met argwaan en onzekerheid bekijken. Leiders zijn ervan overtuigd dat een steeds groter tactisch overwicht doorslaggevend kan zijn in toekomstige conflicten – en zien in AI precies dat cruciale voordeel.
Als elk land eropuit is zijn positie te maximaliseren, ontstaat een klimaat waarin rivaliserende strijdkrachten en inlichtingendiensten verwikkeld raken in een psychologische strijd van ongekende intensiteit. Dit schept een existentieel veiligheidsdilemma. Een menselijke speler die de beschikking krijgt over superintelligente AI – een theoretische vorm van AI die de menselijke intelligentie overstijgt – zal waarschijnlijk als eerste prioriteit hebben om te voorkomen dat anderen toegang krijgen tot deze machtige technologie. Tegelijkertijd zal deze speler aannemen dat zijn rivalen, gedreven door dezelfde onzekerheden en uitdagingen, precies hetzelfde proberen te doen.
Zonder de noodzaak voor fysieke oorlog zou een superintelligente AI gemakkelijk de systemen van een rivaal kunnen ondermijnen en blokkeren. AI heeft het potentieel om conventionele computervirussen ongelooflijk krachtig te maken en ze vrijwel onzichtbaar te verbergen. Net als gebeurde met de Stuxnet-worm, het cyberwapen dat in 2010 werd ontdekt en naar verluidt een vijfde van de uraniumcentrifuges in Iran vernietigde, zou een AI-agent de voortgang van een tegenstander kunnen saboteren zonder dat zijn eigen aanwezigheid zichtbaar wordt. Dit zou wetenschappers aan de vijandige kant in verwarring brengen. Bovendien zou AI in staat zijn om de zwakheden in de menselijke psychologie te manipuleren, bijvoorbeeld door de media van een concurrerende natie te kapen en een vloedgolf van synthetische desinformatie te verspreiden. Dit zijn zulke verontrustende scenario’s dat ze massaal verzet oproepen tegen de verdere ontwikkeling van AI-technologie in dat land.
Het zal voor landen steeds moeilijker worden om een helder beeld te krijgen van hun positie in de AI-race ten opzichte van andere landen
Het zal voor landen steeds moeilijker worden om een helder beeld te krijgen van hun positie in de AI-race ten opzichte van andere landen. De grootste AI-modellen worden nu al getraind op beveiligde netwerken die volledig zijn afgescheiden van het reguliere internet. Sommige leiders geloven dat de ontwikkeling van AI uiteindelijk zal verschuiven naar ondoordringbare faciliteiten, waar supercomputers worden aangedreven door kernreactoren. Er worden zelfs datacenters gebouwd op de oceaanbodem, en in de nabije toekomst zouden ze in banen rond de aarde geplaatst kunnen worden. Landen of bedrijven zouden steeds vaker ‘op zwart’ kunnen gaan, door hun AI-onderzoek niet meer openbaar te maken, niet alleen om te voorkomen dat kwaadwillenden profiteren van hun werk, maar ook om de snelheid van hun eigen vooruitgang te verbergen. Om hun werkelijke vorderingen te maskeren, zouden anderen zelfs opzettelijk misleidend onderzoek kunnen publiceren, met behulp van AI om geloofwaardige, fictieve bevindingen te creëren.
Er is een precedent voor dit soort wetenschappelijke trucs. In 1942 realiseerde de Sovjet-natuurkundige Georgi Fljorov zich terecht dat de Verenigde Staten bezig waren met het ontwikkelen van een kernbom, nadat hij had opgemerkt dat de Amerikanen en Britten plotseling hun wetenschappelijke publicaties over atoomsplijting hadden gestaakt. Tegenwoordig zou zo’n wedloop echter veel moeilijker te doorgronden zijn, gezien de complexiteit en de ambiguïteit van het meten van vooruitgang op een abstract gebied zoals intelligentie. Hoewel sommigen denken dat het bezit van grotere AI-modellen een voordeel biedt, is een groter model niet per definitie superieur in alle situaties en kan het zelfs minder effectief zijn dan kleinere modellen die op grotere schaal worden ingezet. Kleinere, meer gespecialiseerde AI-systemen kunnen bijvoorbeeld werken als een zwerm drones tegen een vliegdekschip: ze kunnen het schip niet vernietigen, maar wel neutraliseren.
De exponentiële en onvoorziene toename van AI-capaciteiten in de afgelopen jaren laten zien dat de voortgang niet voorspelbaar is
Een speler zou een algemeen voordeel kunnen behalen door te laten zien dat hij een bepaalde vaardigheid beheerst. Het probleem met deze benadering is echter dat AI slechts een proces van machinaal leren vertegenwoordigt, dat niet beperkt is tot één technologie, maar zich uitstrekt over een breed scala aan technologieën. Vermogen op een bepaald gebied kan daardoor worden aangedreven door factoren die totaal verschillend zijn van die op een ander gebied. In die zin kan elk ‘voordeel’, zoals dat traditioneel wordt berekend, illusoir blijken te zijn.
Bovendien heeft de exponentiële en onvoorziene toename van AI-capaciteiten in de afgelopen jaren laten zien dat de voortgang niet lineair of voorspelbaar is. Zelfs als het lijkt alsof de ene speler de andere enkele jaren of maanden voor is, kan een onverwachte technische of theoretische doorbraak op een cruciaal moment de posities van alle spelers volledig veranderen.
In een wereld waar geen enkele leider volledig kan vertrouwen op zijn eigen intelligentie, zijn primaire instincten of zelfs de basis van de werkelijkheid, kan het niet verwonderen dat regeringen handelen vanuit een houding van maximale paranoia en achterdocht. Leiders nemen ongetwijfeld al beslissingen met de veronderstelling dat hun acties in de gaten worden gehouden of verstoord kunnen worden door kwaadaardige invloeden. In het slechtst denkbare scenario zou de strategische afweging van elke speler draaien om het geven van prioriteit aan snelheid en geheimhouding boven veiligheid. Onder druk zouden menselijke leiders zich gedwongen kunnen voelen om de inzet van AI versneld in gang te zetten, als afschrikmiddel tegen mogelijke externe verstoringen.
Een nieuw oorlogsparadigma
Gedurende het grootste deel van de menselijke geschiedenis werd oorlog gevoerd in een afgebakend kader, waarin men redelijkerwijs kon inschatten wat de mogelijkheden en posities van vijandelijke troepen waren. Deze voorspelbaarheid bood beide partijen een gevoel van psychologische veiligheid en een algemene consensus, wat op zijn beurt leidde tot weloverwogen terughoudendheid in het gebruik van dodelijke wapens. Oorlogen werden vaak alleen gevoerd wanneer de leiders van beide zijden eensgezind waren over de fundamenten van hoe een conflict zou moeten verlopen, waardoor de tegenpartij in staat was te beoordelen of een oorlog wel of niet gerechtvaardigd was.
Snelheid en mobiliteit zijn enkele van de meest voorspelbare factoren die het vermogen van een militair apparaat versterken. Een vroeg voorbeeld hiervan is de ontwikkeling van het kanon. Meer dan duizend jaar na de bouw van de stadsmuren van Theodosius, die Constantinopel beschermden tegen indringers, stelde een Hongaarse artillerie-ingenieur in 1452 aan keizer Constantijn XI voor om een enorm kanon te bouwen dat vijanden achter de verdedigingsmuren zou kunnen verpletteren. De zelfgenoegzame keizer, die zowel de middelen als het inzicht miste om het belang van deze technologie te begrijpen, wees het voorstel echter af.
Helaas voor de keizer bleek de Hongaarse ingenieur een huurling te zijn. Hij veranderde van strategie en van partij, en paste zijn ontwerp aan zodat het kanon mobieler werd – het moest nu vervoerd kunnen worden door zestig ossen en vierhonderd man. Hij benaderde de rivaal van de keizer, de Ottomaanse sultan Mehmed II, die zich voorbereidde op een belegering van het ondoordringbare fort. De slimme Hongaar wekte de belangstelling van de jonge sultan door te beweren dat het kanon ‘zelfs de muren van Babylon had kunnen verbrijzelen’ en hielp de Turkse troepen om de oude vestingwerken in slechts vijfenvijftig dagen te doorbreken.
In kinetische oorlogsvoering zal AI een aanzienlijke vooruitgang betekenen
De contouren van dit vijftiende-eeuwse drama verschijnen door de eeuwen heen steeds weer. In de negentiende eeuw gaven snelheid en mobiliteit een beslissende wending aan het lot, eerst in Frankrijk, toen Napoleons leger Europa overrompelde, en later in Pruisen, onder leiding van Helmuth von Moltke de Oude en Albrecht von Roon, die de pas ontwikkelde spoorwegen gebruikten om sneller en flexibeler te kunnen manoeuvreren. Op vergelijkbare wijze werd de blitzkrieg, een evolutie van dezelfde Duitse militaire principes, in de Tweede Wereldoorlog met verwoestend effect tegen de geallieerden ingezet.
‘Blitzkrieg’ heeft een nieuwe betekenis gekregen en is nu alomtegenwoordig in het tijdperk van digitale oorlogsvoering. Snelheden worden in een oogwenk bereikt, en aanvallers hoeven de dodelijkheid niet op te offeren voor mobiliteit, aangezien geografie geen belemmering meer vormt. Hoewel deze combinatie de aanvallende kant van digitale aanvallen doorgaans bevoordeelt, zou in een tijdperk van AI de reactiesnelheid kunnen toenemen, waardoor cyberverdediging beter in staat zou zijn om cyberaanvallen te weerstaan.
In kinetische oorlogsvoering zal AI een aanzienlijke vooruitgang betekenen. Drones zullen extreem snel en ongekend mobiel zijn. Wanneer AI niet alleen wordt gebruikt om één drone te besturen, maar ook om vloten van drones aan te sturen, zullen er zwermen ontstaan die synchroon vliegen als één samenhangend collectief, perfect op elkaar afgestemd. In de toekomst zullen deze zwermen zich moeiteloos kunnen opsplitsen en hergroeperen in eenheden van elke gewenste grootte, vergelijkbaar met elite-eenheden voor speciale operaties, die flexibel kunnen worden aangepast en elk voor zich een zelfstandig commando kunnen voeren.
Daarnaast maakt AI ook een veel snellere en flexibele verdediging mogelijk. Het is onpraktisch, zo niet onmogelijk, om dronevloten neer te schieten met conventionele projectielen. Maar AI-gestuurde wapens die fotonen en elektronen afvuren (in plaats van traditionele munitie) zouden dezelfde verwoestende capaciteiten kunnen hebben als een zonnestorm, die in staat is de baan van kwetsbare satellieten te verstoren of zelfs te vernietigen.
De samenwerking tussen wetenschap en oorlog heeft geleid tot steeds nauwkeuriger instrumenten
AI-gestuurde wapens zullen ongekend nauwkeurig zijn. Beperkingen in de kennis van de geografie van de tegenstander waren lange tijd een belemmering voor de strategieën en plannen van oorlogvoerende partijen. Maar de samenwerking tussen wetenschap en oorlog heeft geleid tot steeds nauwkeuriger instrumenten, en van AI worden nog grotere doorbraken verwacht. AI zal de kloof tussen de oorspronkelijke intentie en de uiteindelijke uitkomst verkleinen, ook bij het gebruik van dodelijk geweld. Of het nu gaat om zwermen drones op land, machinekorpsen op zee of zelfs interstellaire vloten, machines zullen over uiterst precieze capaciteiten beschikken om mensen te doden met een minimale onzekerheid en een enorme impact. De grenzen van de potentiële vernietiging zullen afhangen van de wil en terughoudendheid van zowel mens als machine.
In het AI-tijdperk van oorlogsvoering zal de nadruk niet zozeer liggen op de capaciteiten van de tegenstander, maar eerder op zijn intenties en de strategische toepassingen van die capaciteiten. Hoewel we in het nucleaire tijdperk al een vergelijkbare fase hebben bereikt, zullen de dynamiek en betekenis van deze overwegingen veel duidelijker worden zodra AI zijn waarde als oorlogswapen bewezen heeft.
Met zulke waardevolle technologie zou de mens misschien zelfs niet meer de primaire doelwitten van AI-oorlog zijn. AI zou de mens kunnen vervangen als tussenpersoon in oorlogsvoering, waardoor de oorlog mogelijk minder dodelijk wordt, maar niet per se minder beslissend. Het is ook onwaarschijnlijk dat AI alleen agressie tegen fysiek grondgebied zal veroorzaken; eerder zouden datacenters en andere cruciale digitale infrastructuren wel eens het belangrijkste doelwit kunnen worden.
De overgave zal dus niet plaatsvinden wanneer de vijand in aantal is afgenomen of zijn wapenvoorraad is uitgeput, maar wanneer het technologische schild van de overlevenden – het silicium – niet langer in staat is om hun cruciale middelen, en uiteindelijk hun menselijke vertegenwoordigers, te beschermen. Oorlog zou kunnen evolueren naar een strijd van puur mechanische vernietiging, waarbij de psychologische kracht van de mens (of AI) doorslaggevend is, die hetzij moet vechten met het risico op totale vernietiging, hetzij verliezen om dat te voorkomen.
Het is onwaarschijnlijk dat een AI-oorlog enige vorm van liefde of haat met zich meebrengt
De motieven die het nieuwe slagveld aandrijven, zouden zelfs in zekere zin vreemd en onbegrijpelijk kunnen zijn. De Engelse schrijver G.K. Chesterton zei ooit dat ‘de echte soldaat niet vecht omdat hij haat wat voor hem staat, maar omdat hij houdt van wat achter hem staat’. Het is echter onwaarschijnlijk dat een AI-oorlog enige vorm van liefde of haat met zich meebrengt, laat staan concepten zoals soldatenmoed. Desondanks zouden er nog steeds elementen van ego, identiteit en loyaliteit kunnen bestaan, zij het dat de aard van die identiteiten en loyaliteiten mogelijk sterk verschilt van wat we vandaag kennen.
De dynamiek in oorlogsvoering was altijd relatief eenvoudig: de partij die als eerste het lijden in de strijd niet langer kan verdragen, zal waarschijnlijk het onderspit delven. In het verleden leidde het besef van eigen kwetsbaarheid vaak tot terughoudendheid. Maar zonder dit besef, en zonder het gevoel voor pijn – en dus een grotere tolerantie voor lijden – is het moeilijk te voorspellen wat een AI die in oorlogsvoering is getraind, zou kunnen weerhouden. Wat zou haar stoppen, en wat zou de conflicten beëindigen die ze zelf veroorzaakt? Een AI die nooit is geleerd wat de spelregels zijn die het einde van de strijd markeren, zou mogelijk doorgaan tot de laatste zet.
Geopolitieke herstructurering
In elk tijdperk van de mensheid lijkt er, opnieuw bijna als een natuurwet, altijd een macht te ontstaan die, zoals Kissinger ooit zei, ‘de kracht, de wil en de intellectuele en morele impuls heeft om het hele internationale systeem naar eigen waarden te herstructureren’. Het meest bekende model van menselijke ordening is het Westfaalse systeem, zoals we dat nu kennen. Het idee van soevereine natiestaten is echter slechts enkele eeuwen oud en ontstond na de verdragen van de Vrede van Westfalen in de zeventiende eeuw. Dit model is niet vanzelfsprekend of onveranderlijk, en het zou weleens ongeschikt kunnen zijn voor het tijdperk van AI. Sterker nog, als massale desinformatie en geautomatiseerde discriminatie het vertrouwen in dit systeem ondermijnen, zou AI zelf wel eens een fundamentele uitdaging kunnen vormen voor de macht van nationale regeringen. Een andere mogelijkheid is dat AI de machtsverhoudingen tussen staten opnieuw zou kunnen uitlijnen binnen het bestaande systeem. Als de kracht van AI vooral door natiestaten wordt ingezet, zou dit kunnen leiden tot stagnatie in de wereldhegemonie, of tot een nieuw evenwicht van met AI uitgeruste staten. Maar het is ook mogelijk dat AI de katalysator wordt voor een nog diepgaandere verandering: een verschuiving naar een totaal nieuw systeem, waarbij staten gedwongen worden hun centrale rol in de wereldpolitiek op te geven.
Een mogelijke uitkomst is dat de bedrijven die AI bezitten en ontwikkelen hun sociale, economische, militaire en politieke macht verder consolideren. Regeringen staan momenteel voor de moeilijke taak om zowel de rol van cheerleader voor privébedrijven te vervullen – die hun militaire invloed, diplomatiek kapitaal en economische macht inzetten om binnenlandse bedrijven te bevorderen – als die van pleitbezorgers voor de gewone burger, die wantrouwend staat tegenover monopolistische hebzucht en geheimzinnigheid. Deze tegenstrijdige positie zou wel eens onhoudbaar kunnen blijken.
Tegelijkertijd zouden bedrijven allianties kunnen smeden om hun al aanzienlijke macht verder te consolideren. Deze samenwerkingen kunnen voortkomen uit wederzijds voordelige voordelen en het potentieel van een fusie, of uit een gedeelde visie over de ontwikkeling en toepassing van AI-systemen. Dergelijke bedrijfsallianties zouden in staat kunnen zijn om de traditionele functies van natiestaten over te nemen. In plaats van zich te richten op het definiëren en uitbreiden van fysieke grenzen, zouden ze diffuse digitale netwerken als hun territorium cultivëren.
Het nieuwe ‘territorium’ dat elke groep zal opeisen zal in die toekomst geen fysiek grondgebied zijn
Daarnaast is er nog een ander scenario. De ongecontroleerde verspreiding van openbronnen zou de opkomst van kleinere bendes of stamgemeenschappen kunnen faciliteren, die over bescheiden maar effectieve AI-capaciteiten beschikken. Deze groepen zouden in staat zijn om zichzelf te besturen, te voorzien in hun eigen behoeften en zichzelf te verdedigen binnen een beperkt bereik.
Binnen menselijke groepen die de gevestigde autoriteit verwerpen ten gunste van gedecentraliseerde financiën, communicatie en bestuur, zou een door technologie mogelijk gemaakte protoanarchie kunnen opkomen. Dergelijke groeperingen zouden ook een religieuze dimensie kunnen hebben. Immers, het christendom, de islam en het hindoeïsme zijn qua omvang en duurzaamheid groter geweest dan welke staat dan ook in de geschiedenis. In het komende tijdperk zou religieuze identiteit, meer dan nationaal burgerschap, wel eens het belangrijkste kader voor persoonlijke identiteit en loyaliteit kunnen worden.
Of de toekomst nu gedomineerd wordt door bedrijfsallianties of verspreid is over losse religieuze groeperingen, het nieuwe ‘territorium’ dat elke groep zal opeisen – en waarvoor zij zullen strijden – zal in die toekomst geen fysiek grondgebied zijn, maar een digitaal landschap dat gericht is op de loyaliteit van individuele gebruikers. De verbindingen tussen deze gebruikers en een overheid zouden de traditionele betekenis van burgerschap ondermijnen, terwijl de overeenkomsten tussen de entiteiten fundamenteel anders zouden zijn dan gewone allianties.
Vroeger werden allianties gesmeed door individuele leiders en dienden ze om de kracht van een natie te vergroten in tijden van oorlog. In tegenstelling tot deze historische benadering zou het vooruitzicht van burgerschapsbanden en allianties – en mogelijk veroveringen of kruistochten – die zijn opgebouwd rond de meningen, overtuigingen en subjectieve identiteiten van gewone mensen in vredestijd, een nieuw (of misschien heel oud) perspectief op het concept van een imperium vereisen. Dit zou ook een heroverweging inhouden van de verplichtingen die verbonden zijn aan het beloven van trouw, evenals de kosten van mogelijke exitopties, mocht dat überhaupt mogelijk zijn in een door AI gedomineerde toekomst.
Vrede en macht
Het buitenlands beleid van natiestaten is altijd gevormd door een balans tussen idealisme en realisme. De tijdelijke evenwichten die leiders hebben bereikt, worden niet gezien als uiteindelijke doelen, maar als kortstondige strategieën die in hun specifieke tijd relevant waren. Elk nieuw tijdperk heeft dit spanningsveld anders ingevuld en de definitie van politieke orde is voortdurend veranderd. De tegenstelling tussen het nastreven van nationale belangen en het streven naar bredere waarden, of tussen het voordeel van een specifieke natiestaat en het algemeen belang, maakt deel uit van deze voortdurende evolutie. Leiders van kleinere staten reageerden vaak direct en gaven prioriteit aan hun eigen voortbestaan, terwijl degenen aan het hoofd van wereldrijken, die over de middelen beschikken om bredere doelen te realiseren, veel complexere uitdagingen tegenkwamen.
Sinds het begin van de beschaving, naarmate menselijke organisatie-eenheden groeiden, bereikten ze tegelijkertijd nieuwe niveaus van samenwerking. Tegenwoordig is er echter, mogelijk door de omvang van mondiale problemen en de materiële ongelijkheid tussen en binnen staten, verzet tegen deze trend. AI zou in staat kunnen zijn om te voldoen aan de eisen van deze grotere schaal van menselijk bestuur, doordat het niet alleen gedetailleerd en nauwkeurig kan zien wat er binnen een land moet gebeuren, maar ook inzicht heeft in de wereldwijde interacties en hoe deze elkaar beïnvloeden.
We koesteren de hoop dat AI, ingezet voor politieke doeleinden zowel binnen als buiten de grenzen, meer kan doen dan enkel het verhelderen van evenwichtige compromissen. Idealiter zou het in staat zijn om wereldwijd optimale oplossingen te bieden, doordat het opereert op langere tijdshorizons en met grotere precisie dan mensen, waardoor het concurrerende menselijke belangen op één lijn kan brengen. In de toekomstige wereld zou machinale intelligentie, die door conflicten navigeert en over vrede onderhandelt, kunnen bijdragen aan het verhelderen of zelfs overwinnen van traditionele dilemma’s.
Als AI in staat zou zijn om deze problemen op te lossen, zouden we te maken kunnen krijgen met een vertrouwenscrisis
Als AI echter daadwerkelijk in staat zou zijn om problemen op te lossen die wij zelf hadden willen aanpakken, zouden we te maken kunnen krijgen met een vertrouwenscrisis – zowel door overmoed als door gebrek aan vertrouwen. Wat betreft het eerste zou het moeilijk kunnen zijn om toe te geven dat we te veel macht aan machines hebben gegeven bij het omgaan met existentiële kwesties van menselijk gedrag, zodra we de grenzen van ons eigen vermogen tot zelfcorrectie begrijpen. Wat betreft het tweede zou het besef dat het simpelweg uitschakelen van menselijk handelen in het oplossen van onze problemen genoeg was geweest om onze meest hardnekkige kwesties op te lossen, de tekortkomingen van het menselijke ontwerp te pijnlijk blootleggen. Als vrede altijd maar een simpele vrijwillige keuze is geweest, heeft de prijs van menselijke imperfectie zich vertaald in voortdurende oorlog. De wetenschap dat er altijd een oplossing was, maar dat deze nooit door ons bedacht is, zou verpletterend zijn voor onze waardigheid.
In kwesties van veiligheid, in tegenstelling tot de beweging van mensen binnen wetenschappelijke of andere academische domeinen, zouden we wellicht eerder de onpartijdigheid van een mechanische derde partij als superieur aan de zelfzuchtige mens accepteren, net zoals we het belang van een bemiddelaar in een vechtscheiding gemakkelijk inzien. Sommige van onze minder positieve eigenschappen stellen ons in staat om ook onze betere eigenschappen te laten zien; ons menselijke instinct om uit eigenbelang te handelen, zelfs ten koste van anderen, zou een belangrijke stap kunnen zijn in de acceptatie dat AI ons op bepaalde gebieden overstijgt.
