Stopt Google terecht zijn samenwerking met het Pentagon?

JA

Moet multinational Google zijn technologie gebruiken om het militaire overwicht van één land te versterken? Moet het zijn geavanceerde AI-software, zijn onlinediensten en de reusachtige hoeveelheid persoonlijke gegevens die het verzamelt, inzetten bij de ontwikkeling van autonome wapens?

Onlangs nam ruim een dozijn werknemers ontslag omdat Google het droneprogramma Project Maven van het Pentagon met zijn AI ondersteunt. Dit project moet drones gemakkelijker mensen laten identificeren. Hun stap volgt op een open brief, ondertekend door ruim 3100 Google-werknemers, waarin staat dat Google zich niet met oorlogsvoering moet bezighouden.

In het Maven-programma van het Amerikaanse leger wordt AI gebruikt om op beelden van surveillancedrones ‘interessante objecten’ te ontdekken, die menselijke analisten dan verder kunnen inspecteren. Niet alleen levert Google hiervoor de AI-technologie, maar ook technici en expertise. Maven is al actief ‘in het Midden-Oosten’ en vanaf volgende zomer wordt de inzet geïntensiveerd. De bedoeling is om er ongerichte surveillancebeelden mee te analyseren die ‘hele steden kunnen bestrijken’.

Door aan project Maven deel te nemen, ondersteunt Google het mogelijk illegale Amerikaanse droneprogramma en werkt het de immorele praktijk in de hand van door statistiek en algoritmes gedreven liquidaties

In de berichtgeving over Project Maven wordt vooralsnog de rol van menselijke analisten benadrukt, maar de bedoelingen van de Amerikaanse ministerie van Defensie zijn overduidelijk. De techniek moet het proces van identificatie van doelwitten, waaronder mensen, gaan automatiseren en vervolgens de wapens aansturen om die mee aan te vallen. Volgens Defense One heeft het Pentagon al plannen om zulke beeldanalysesoftware eveneens in de drones zelf in te bouwen, ook in gewapende. Het is dan nog maar een kleine stap naar volledig autonome drones, die zonder menselijk toezicht of menselijke controle mogen doden.

Zelfs zonder de automatische identificatie van doelwitten was het Amerikaanse droneprogramma al controversieel. Volgens velen waren de gerichte liquidaties in strijd met Amerikaanse en internationale wetgeving. Het ging bij deze liquidaties om ‘personality strikes’ op bekende individuen, wier naam op een dodenlijst voorkwam, en om ‘signature strikes’, gebaseerd op een ‘levenspatroonanalyse’. Bij dit laatste type aanval worden mensen tot doelwit bestempeld louter op basis van hun uiterlijk en hun gedrag op surveillancebeelden. Het gevolg was dat er bij luchtaanvallen niet alleen geregeld omstanders werden gedood, maar dat zelfs sociale bijeenkomsten, zoals huwelijken, soms doelwit werden van een aanval.

Door aan project Maven deel te nemen, ondersteunt Google het mogelijk illegale Amerikaanse droneprogramma en werkt het de immorele praktijk in de hand van door statistiek en algoritmes gedreven liquidaties. Het multinationale bedrijf Google heeft de handen ineen geslagen met het leger van één bepaald land. Het ontwikkelt een techniek die mogelijk zeer gevaarlijk kan worden voor haar gebruikers en hun buren. Dit is een kritiek moment.

Auteurs: Lucy Suchman, Lilly Irani, Peter Asaro
Bron: The Guardian

Lucy Suchman is hoogleraar wetenschapsantropologie aan Universiteit van Lancaster. Lilly Irani is universitair docent aan de Universiteit van California. Peter Asaro doceert aan de New School in New York.

NEE

Moeten technologen voorkomen dat hun gereedschappen gebruikt worden om oorlog te voeren? Bij Google werd deze vraag woedend met ‘ja’ beantwoord. Ruim drieduizend werknemers ondertekenden een petitie als protest tegen het gebruik van de algoritmes van het bedrijf in Project Maven. Dit is een project waarmee het ministerie van Defensie objecten op videobeelden automatisch wil gaan identificeren.

Ondanks hun nobele bedoelingen snappen de ondertekenaars niet goed wat technologie is. Evenmin zien ze in hoe belangrijk het leger is voor de economische voorspoed van de VS. Een nauwe relatie tussen Silicon Valley en het Pentagon is zowel goed voor de industrie als voor de nationale veiligheid.

Op zich valt toe te juichen dat de technici van Google zich openlijk afvragen of de door hun uitgevonden machine learning-algoritmes wel in Project Maven mogen worden toegepast. Het zou morele helderheid scheppen als technologie voor oorlogvoering netjes van andere soorten technologie kon worden gescheiden. Alleen kan dat helaas niet. Silicon Valley voert allang oorlog: de technologieën die het ontwikkelt voor automatisch zoeken, gegevensopslag en patroonherkenning hebben ook militaire toepassingen. De machinaal lerende algoritmes waarmee beelden op het internet worden geclassificeerd kunnen ook gebruikt worden om terroristische activiteiten mee op te sporen. Overheid en industrie wisselen technologie uit; vredelievende technologie wordt ingezet bij oorlogsvoering en andersom.

De technologie achter Project Maven probeert het aantal onschuldige slachtoffers verder te beperken. Een beslissing van Google om er niet aan mee te werken is dus moreel erg complex

Toch is de hoop op een verantwoord gebruik van deze techniek niet vervlogen. De controverse omtrent Project Maven leert ons een belangrijke les over wie uiteindelijk de inzet van technologie bepaalt. Google maakt immers deel uit van een democratisch bestel. Uiteindelijk besluiten onze volksvertegenwoordigers over het gebruik van geweld en de ingezette middelen. Beïnvloeden hoe de VS oorlog voeren, kun je via de stembus.

Ook het Amerikaanse leger functioneert binnen ons democratisch bestel en probeert daarom om met een zo groot mogelijke precisie te vechten. Veel meer dan bij minder democratische grootmachten ligt de focus op het beperken van burgerslachtoffers. De technologie achter Project Maven probeert het aantal onschuldige slachtoffers verder te beperken. Een beslissing van Google om er niet aan mee te werken is dus moreel erg complex.

De marktwaarde van Apple en Google ligt twee keer zo hoog als de waarde van de gehele Amerikaanse defensie. De enige manier waarop het leger het land kan blijven beschermen en de relatieve vrede kan blijven waarborgen, is door voortdurend de nieuwste technieken toe te passen. Het leger de toegang weigeren tot deze techniek zou op termijn de slagvaardigheid in de weg staan, wat een ramp zou betekenen voor de natie, en voor de wereld.

Auteur: Christopher M. Kirchhoff
Bron: The New York Times

Christopher M. Kirchhoff leidde een Pentagongroep die technologie van start-ups integreerde in militaire missies.

Vertaler: Valentijn van Dijk