Nucleaire waarschuwingssystemen zijn te kwetsbaar voor hallucinerende kunstmatige intelligentie. De gevolgen van een AI-fout kunnen op dit gebied desastreus zijn.
Al sinds het begin van het atoomtijdperk doen beleidsmakers en strategen hun best om te voorkomen dat landen per ongeluk een kernwapen inzetten. Maar het risico op zo’n ongelukje is nog steeds even groot als tijdens de Koude Oorlog. In 1983 meldde een waarschuwingssysteem van de Sovjet-Unie ten onrechte dat de VS kernraketten hadden afgevuurd. Deze hadden een desastreuze tegenaanval kunnen uitlokken. Dat dit voorkomen werd, is enkel te danken aan de officier van dienst op dat moment, Stanislav Petrov, die besloot dat het loos alarm moest zijn. Had hij die conclusie niet getrokken, dan hadden de Sovjetleiders een reden gehad om de meest verwoestende wapens ter wereld op de Verenigde Staten af te vuren.
De snelle ontwikkeling van kunstmatige intelligentie verhoogt de risico’s voor de nucleaire veiligheid. Zo bestaat de vrees dat een kernmogendheid het besluit over de inzet van kernwapens zou kunnen overlaten aan machines. De VS hebben al waarborgen ingebouwd om ervoor te zorgen dat er uiteindelijk altijd mensen over zo’n aanval beslissen. Volgens de Nationale Defensiestrategie van 2022 moet er altijd een mens ‘betrokken zijn’ bij elk besluit tot het al dan niet inzetten van een kernwapen. President Biden en de Chinese leider Xi Jinping hebben beiden een onderling afgestemde verklaring afgegeven waarin ze in identieke bewoordingen stelden dat een ‘besluit over de inzet van kernwapens door mensen moet worden genomen’.
Maar de opkomst van AI levert nog een ander gevaar op voor de nucleaire veiligheid. Deze vergemakkelijkt het maken en verspreiden van deepfakes, overtuigend gemanipuleerde beelden en geluiden met valse informatie over mensen of gebeurtenissen. Een techniek die steeds geraffineerder wordt. Enkele weken na de Russische inval in Oekraïne dook er in 2022 al een breed verspreide deepfake op van de Oekraïense president Zelensky die zijn landgenoten opriep de wapens neer te leggen. In 2023 werd mensen door een deepfake wijsgemaakt dat Poetin de tv-uitzending van de staatsomroep had onderbroken om de algehele mobilisatie af te kondigen. In een extremer scenario zou zo’n deepfake de leider van een kernmogendheid ervan kunnen overtuigen dat zijn land wordt aangevallen, of zou een inlichtingenplatform dat berust op AI ten onrechte alarm kunnen slaan over de mobilisatie van een tegenstander of zelfs een aanval met een vuile bom.
De regering-Trump wil AI inzetten voor de nationale veiligheid. In juli is er een actieplan uitgevaardigd dat oproept tot ‘agressieve’ inzet van AI in alle geledingen van het ministerie van Defensie. In december onthulde het ministerie GenAI.mil, een platform met AI-tools voor zijn medewerkers. Maar als AI geïntegreerd wordt in de infrastructuur voor nationale veiligheid, is het van cruciaal belang dat beleidsmakers en systeemontwerpers heel voorzichtig zijn met de rol die ze machines geven in de beginfasen van de besluitvorming rond kernwapens. Inherent aan AI is ook het probleem van het hallucineren en vervalsen van informatie, waarbij de taalmodellen onjuiste voorspellingen over feiten of patronen spuien. Zolang dat nog niet kan worden voorkomen, moet de Amerikaanse overheid erop toezien dat er bij de nucleaire waarschuwingssystemen mensen aan de knoppen blijven zitten. En hetzelfde geldt voor andere kernmogendheden.
Opeenlopende crises
Donald Trump heeft momenteel een telefoon waarop hij deepfakes bekijkt. Die deelt hij soms op sociale media, net als veel van zijn naaste adviseurs. Naarmate de scheidslijn tussen echte en valse informatie vervaagt, groeit de kans dat zulke deepfakes invloed krijgen op de besluitvorming rond nationale veiligheid, ook inzake kernwapens.
Als desinformatie de Amerikaanse president op het verkeerde been kan zetten, al is het maar voor een paar minuten, kan dat rampzalig uitpakken voor de wereld. De president is niet bij wet verplicht om met iemand ruggespraak te plegen voordat hij bevel geeft tot de inzet van kernwapens, of het nu voor een vergeldingsactie of een eerste aanval is. Het leger staat continu paraat om de vliegtuigen, onderzeeërs en grondraketten met kernkoppen in te zetten. Een Amerikaanse intercontinentale raket kan zijn doel binnen een half uur bereiken, en als zo’n raket eenmaal gelanceerd is, is dat niet meer terug te draaien.
De nucleaire strijdkrachten van zowel Amerika als Rusland staan paraat voor een zogenaamde ‘launch on warning’, wat inhoudt dat ze meteen tot vuren kunnen overgaan zodra er vijandelijke raketten worden waargenomen. Dat betekent dat het staatshoofd binnen enkele minuten moet beslissen of er van een vijandelijke kernaanval sprake is. (Volgens het huidige Amerikaanse beleid heeft de president ook de optie om zijn besluit uit te stellen tot nadat de VS daadwerkelijk door een kernwapen van de vijand zijn getroffen.) Als het Amerikaanse waarschuwingssysteem een dreiging detecteert, wordt alles in het werk gesteld om die aanval aan de hand van zowel geheime als openbare inlichtingenbronnen te verifiëren. Dan wordt er naar meer context en informatie over de situatie ter plaatse gezocht in satellietgegevens over activiteiten bij bekende militaire faciliteiten, recente verklaringen van buitenlandse regeringsleiders en berichten in buitenlandse nieuwsbronnen en sociale media. Vervolgens moeten militairen, ambtenaren en andere functionarissen bepalen welke informatie ze aan hun superieuren doorgeven en hoe ze die presenteren.
Omdat de logica achter het AI-proces een black box is, hebben we geen idee hoe AI toe zijn conclusies komt
Desinformatie afkomstig van AI kan een lawine aan crises veroorzaken. Als AI-systemen worden gebruikt voor de duiding van de data in het waarschuwingssysteem, kunnen ze een aanval hallucineren die helemaal niet plaatsvindt en de Amerikaanse autoriteiten zo in dezelfde positie brengen waarin Petrov veertig jaar geleden verkeerde. Omdat de logica achter het AI-proces een black box is, hebben we geen idee hoe AI toe zijn conclusies komt. Onderzoek wijst uit dat mensen met een gemiddelde mate van AI-ervaring de neiging hebben om de informatie die de machine ophoest eerder klakkeloos te accepteren dan te controleren op eenzijdigheid of fouten, zelfs als de nationale veiligheid in het geding is. Zonder intensieve training en tools en werkprocessen die rekening houden met de minpunten van AI kunnen de adviseurs van de beleidsmakers in het Witte Huis in de gewoonte vervallen om er klakkeloos van uit te gaan, of in ieder geval de mogelijkheid open te houden, dat van AI afkomstige informatie feitelijk correct is.
Deepfakes op openbare mediakanalen zijn al bijna net zo gevaarlijk. Een Amerikaanse beleidsmaker zou op grond van een deepfakefilmpje bijvoorbeeld een Russische kernproef kunnen aanzien voor een aanval, of Chinese schietoefeningen voor een aanval op een bondgenoot van Amerika. Deepfakes kunnen gebruikt worden om een aanleiding voor een oorlog in scène te zetten, de steun van de bevolking voor een conflict aan te wakkeren of verwarring te zaaien.
Een kritische blik
In juli kwam de regering met een actieplan dat oproept tot agressieve inzet van AI-middelen bij Defensie, het grootste overheidsapparaat ter wereld. Dat heeft zijn nut bij het verhogen van de efficiëntie in sommige legeronderdelen al bewezen. Met AI is de planning van het onderhoud van torpedobootjagers gestroomlijnd. Dankzij AI-technologie in autonome munitie zoals drones kunnen soldaten op grotere afstand van het front blijven. En inlichtingenofficieren hebben baat bij AI-vertaaltools om data uit andere landen te analyseren. AI kan zelfs nuttig zijn voor sommige andere standaardtaken, zoals het detecteren van verschillen tussen foto’s die op meerdere dagen zijn genomen van bommenwerpers die op vliegvelden geparkeerd staan.
Gebruik van AI in militaire systemen is geen simpele kwestie van alles of niets. Er zijn operationele domeinen waar AI beslist uit den boze moet blijven, zoals de nucleaire waarschuwingssystemen en de commandovoering: daar weegt het risico van hallucinatie en datavervalsing zwaarder dan de eventuele voordelen van AI-software. De beste AI-systemen berusten op uitgebreide en geverifieerde datasets. Die zijn voor nucleaire waarschuwingssystemen niet voorhanden, want sinds de atoombommen op Hiroshima en Nagasaki heeft er geen nucleaire aanval meer plaatsgevonden. Een AI-waarschuwingssysteem zou waarschijnlijk getraind moeten worden met data van raketproeven en van satellietsystemen en met synthetische data. Bij de programmering zouden de ontwerpers bescherming moeten inbouwen tegen hallucinaties en onjuiste betrouwbaarheidsinschattingen: een flinke technische horde.
Het kan verleidelijk zijn om de controles door hoogopgeleid personeel te vervangen door AI-tools, of om met behulp van AI verschillende gegevensbronnen samen te voegen teneinde de analyse te versnellen. Maar het schrappen van die kritische menselijke blik kan resulteren in fouten, gekleurde interpretaties en misverstanden. Momenteel geldt bij Defensie al de eis dat de acties van autonome drones door mensen worden gecontroleerd, en zo moet ook voor elk onderdeel van de waarschuwingssystemen en inlichtingentechnologie rond kernwapens de lat zelfs nog hoger worden gelegd. AI-tools voor data-integratie mogen geen substituut worden voor menselijke medewerkers die de gegevens over raketten beoordelen. Het proces waarbij de initiële waarschuwing van een nucleaire aanval op grond van satelliet- of radargegevens geverifieerd wordt, mag hooguit ten dele worden geautomatiseerd. En deelnemers aan cruciaal beraad over de nationale veiligheid mogen hun overwegingen alleen baseren op geverifieerde en ongemanipuleerde data.
In juli 2025 heeft Defensie het Congres om geld gevraagd voor de toevoeging van nieuwe technologie aan de commandovoering en communicatie voor kernwapens. De overheid zou er goed aan doen om de integratie van AI en automatisering te beperken tot cybersecurity, bedrijfsvoering en analyses, en eenvoudige taken zoals het tijdig inschakelen van de noodstroomvoorziening.
Een oude strategie
Het risico op een kernoorlog is vandaag de dag groter dan het in decennia is geweest. Rusland heeft al met kernwapens gedreigd in Oekraïne, China is zijn arsenaal in rap tempo aan het uitbreiden, Noord-Korea heeft nu intercontinentale raketten waarmee het de VS kan bereiken en het mondiale nonproliferatiebeleid wankelt. Tegen deze achtergrond is het des te belangrijker dat de daden, intenties en doelen van tegenstrevers niet worden beoordeeld door machines die getraind zijn met slechte en onvolledige data, maar door mensen.
Inlichtingendiensten moeten beter worden in het traceren van de herkomst van informatie die door AI is gegenereerd en er een gewoonte van maken om beleidsmakers erop te wijzen wanneer data door AI is bewerkt of gegenereerd. In de rapporten met analyses van satellietgegevens van de National Geospatial-Intelligence Agency wordt bijvoorbeeld altijd duidelijk vermeld welke informatie afkomstig is van AI. Inlichtingenanalisten, beleidsmakers en hun medewerkers moeten worden opgeleid om daar extra kritisch op te zijn en gegevens na te trekken die niet meteen verifieerbaar zijn, net zoals men in het bedrijfsleven nu extra waakzaam is op gerichte phishingaanvallen. En beleidsmakers moeten vertrouwen stellen in hun inlichtingendiensten, hoe verleidelijk de neiging ook is om eerder te vertrouwen op hun eigen ogen en wat ze zien op hun telefoon (of dat nu klopt of niet) dan op de conclusies van een inlichtingenrapport.
Technologen en andere deskundigen moeten blijven zoeken naar methoden voor het opsporen en tegengaan van valse informatie, beelden en filmpjes op sociale media die beleidsmakers kunnen beïnvloeden. Maar aangezien openbare informatiestromen moeilijk te beteugelen zijn, is het van des te groter belang dat de informatie van de inlichtingendiensten zelf wel klopt.
AI is nu al in staat om leiders te laten denken dat ze een aanval zien die er niet is
Bij verdere aanpassingen van het kernwapenbeleid in de Nationale Defensiestrategie moet de regering-Trump zich tegen de reële en onbeheersbare gevaren van AI-informatie wapenen door expliciet te bevestigen dat er nooit zonder menselijke inbreng een besluit over de lancering van een kernwapen mag worden genomen door een machine. Als eerste stap moeten alle kernmogendheden samen overeenkomen dat alleen mensen over de inzet van kernwapens mogen beslissen. Vervolgens moeten ze de communicatiekanalen voor crisissituaties verbeteren. Tussen Washington en Moskou is er al een hotline, maar tussen Washington en Beijing nog niet.
Het Amerikaanse standpunt en beleid inzake kernwapens is nog praktisch hetzelfde als in de jaren tachtig, toen vooral gevreesd werd voor een onverwachte aanval van de Sovjet-Unie. De beleidsmakers van toen hadden zich nooit kunnen voorstellen hoeveel desinformatie er binnenkomt op de mobiele telefoons van de mensen die tegenwoordig aan de knoppen zitten. Het Amerikaanse kernwapenbeleid stamt nog uit de Koude Oorlog en is toe aan een grondige herziening door zowel de regering als het parlement. De beleidsmakers zouden bijvoorbeeld de eis kunnen stellen dat een president in de toekomst eerst met de fractieleiders van het Congres overlegt voordat hij bevel geeft voor het eerste gebruik van een kernwapen. Of dat inlichtingendiensten de tijd moeten krijgen om de informatie waarop zo’n besluit berust te verifiëren. Omdat Amerika over uitstekende opties voor een tegenaanval beschikt, moet juistheid van informatie voorrang krijgen boven snelheid van besluitvorming.
AI is nu al in staat om belangrijke spelers in het besluitvormingsproces en leden van de nucleaire commandostructuur te laten denken dat ze een aanval zien die er niet is. In het verleden zijn misverstanden tussen kernmogendheden alleen uit de wereld geholpen door middel van echte dialoog en diplomatie. Het beleid en de procedures moeten bescherming bieden tegen de verraderlijke informatierisico’s die anders tot onze nucleaire ondergang kunnen leiden.
