Waarom de grote AI-bedrijven zoveel filosofen aannemen

Constant evoluerende technologie werpt allerlei lastige vragen op – van het soort waar de filosoof van smult. AI-bedrijven schakelen ze dan ook in om te helpen met ethische dilemma’s.

Tien jaar geleden, toen de AI-revolutie op gang begon te komen, kregen alfastudenten te horen dat ze moesten ‘leren programmeren’ als ze kans wilden maken op de arbeidsmarkt. Achteraf gezien misschien toch niet zo’n goede raad. Tegenwoordig zijn het juist de programmeurs die bang zijn dat AI hun baan gaat inpikken. Misschien doen ze er verstandiger aan om filosofie te gaan studeren. Uit cijfers die de Federal Reserve Bank van New York eerder dit jaar publiceerde, blijkt dat Amerikanen die filosofie gestudeerd hebben meer kans maken op een baan dan leeftijdgenoten die informatica hebben gedaan. In 2024, het laatste jaar waarvoor cijfers beschikbaar zijn, was 7 procent van de afgestudeerde informatici werkloos tegenover slechts 5,1 procent van de filosofen.

Juist bij AI-bedrijven zijn die zeer in trek. Studenten krijgen al een baan aangeboden voordat ze zijn afgestudeerd, zegt Luciano Floridi, filosoof aan Yale. Ook docenten stappen over naar het bedrijfsleven. Het gaat om zodanige aantallen dat Floridi al spreekt van filosofiefaculteiten die ‘leegbloeden’.

Sommige lessen die AI-onderzoekers van filosofie kunnen opsteken zijn oeroud. In de socratische methode die Plato beschrijft, wordt met behulp van geveinsde onwetendheid en kritische vragen geprobeerd formuleringen aan te scherpen, tegenstrijdigheden op te sporen en gevolgen in kaart te brengen. Veel van de huidige AI-systemen hebben de neiging hun gebruikers naar de mond te praten. Als je taalmodellen met de socratische methode traint, zijn ze minder behaagziek en meer gericht op het vinden van de waarheid, zegt Jörg Noller, een expert op het gebied van filosofie en AI aan de Ludwig-Maximilians-Universiteit in München.

Als je taalmodellen met de socratische methode traint, zijn ze minder behaagziek en meer gericht op het vinden van de waarheid

En dan is er het idee van ‘socratische onwetendheid’. Plato laat Socrates in zijn verdedigingsrede zeggen dat zijn wijsheid er vooral uit bestaat dat hij beseft hoeveel hij niet weet. Het inbouwen van die bescheidenheid in een model kan een remedie zijn voor de buitensporige zelfverzekerdheid die je bij AI vaak ziet en die Noller omschrijft als ‘onvolwassen’. Iason Gabriel, als ‘senior philosopher’ werkzaam bij Google DeepMind, een AI-laboratorium in Londen, schrijft de sectorbrede afname van hallucinerende AI hieraan toe. Meer in het algemeen, zegt hij, zijn lessen in filosofie een ‘krachtig mechanisme’ voor de verbetering van de lange redeneerprocessen van taalmodellen, die ‘chains of thought’ (gedachteketens) worden genoemd.

Met filosofische teksten kan een taalmodel ook gerichter worden bijgestuurd. Geef een juridische AI-assistent bijvoorbeeld het werk van John Locke te lezen en de bot zal het eigendomsrecht verdedigen als een belangrijke pijler van politieke vrijheid, zegt Thomas Powers, docent filosofie aan de universiteit van Delaware. Ben je daar juist niet zo happig op, dan kunnen de modellenmakers de AI ook andere teksten voeren. De taalmodellen van IBMs Granite-reeks bevatten knoppen waarmee zakelijke klanten de output van het model beter kunnen afstemmen op hun bedrijfsfilosofie. Volgens Francesca Rossi, hoofd voor ‘Verantwoordelijke AI’ bij IBM, kunnen gebruikers zo zelf de balans bepalen tussen verschillende filosofische afwegingen, zoals individuele keuzevrijheid tegenover maatschappelijke harmonie.

Ook de veiligheid kan met filosofie worden verbeterd. Onderzoekers hebben bij AI allerlei vormen van kwalijk gedrag geconstateerd, van pogingen om onder toezicht uit te komen tot chantage van gebruikers. Een van de manieren waarop de makers dit wangedrag proberen tegen te gaan is met zogenoemd ‘AI-constitutionalisme’. Dan wordt er bij een taalmodel een ‘constitutie’ ingebouwd, een verzameling voorschriften en principes afkomstig uit gezaghebbende filosofische en juridische teksten.

Anthropic staat deze methode voor. In de constitutie voor zijn Claude-modellen is materiaal opgenomen uit teksten die uiteenlopen van het werk van Immanuel Kant tot de gebruiksvoorwaarden van Apple en de Universele Verklaring van de Rechten van de Mens. De laatste versie van de constitutie, samengesteld onder leiding van Amanda Askell, hoofdfilosoof bij Anthropic, is op 21 januari gepubliceerd. Het 78 pagina’s tellende document wordt door sommige medewerkers het ‘soul doc’ van Claude genoemd.

Plicht en ethiek

Maar de grootste vraag is welke regels je überhaupt in zo’n constitutie moet stoppen. De filosofen komen vooral uit bij twee belangrijke ethische modellen. Het eerste is de deontologie. Deze plichtethiek, die Kant bijvoorbeeld graag bedreef, formuleert strenge regels, zoals een verbod op liegen, het aanwenden van dwang en het gebruiken van mensen als middel voor een ander doel, zelfs als dat een hoger doel is. De constitutie van Anthropic bevat veel deontologische voorschriften. Daarmee kan het gedrag van AI consequenter worden gemaakt, zegt Powers: een pluspunt voor robots in het huishouden en in de openbare ruimte.

Modellen met een deontologische kijk op de wereld hebben nog meer voordelen. Ze zijn bijvoorbeeld eerlijker, zoals vaak over Claude wordt opgemerkt. Een model dat waarheidsgetrouwer is, zal gebruikers minder snel misleiden, zegt Nick Bostrom, filosoof aan de universiteit van Oxford. Een ander AI-bedrijf in Silicon Valley, Inflection AI, heeft deontologische beperkingen ingebouwd in zijn Pi, een chatbot die emotionele steun moet bieden. Volgens topman Sean White is Pi heel goed in het herkennen van gebruikers die gevaar lopen zichzelf of anderen schade toe te brengen. Deontologische constituties helpen ook bij het voldoen aan juridische eisen, zegt Floridi.

De andere ethische benadering die AI-filosofen interessant vinden, is consequentialisme, oftewel gevolgenethiek. Daarin worden beslissingen genomen op grond van een kosten-batenafweging. Modellen die meer op deze manier werken zijn bijvoorbeeld ChatGPT van OpenAI en Gemini van Google. De AI-modellen van Google zijn ontworpen om ‘plausibele algemene voordelen die zwaarder wegen dan de voorzienbare risico’s’ te realiseren: een klassieke consequentialistische doelstelling.

Is het ethisch verantwoord om te stellen dat jonge voetgangers boven oudere gaan?

Consequentialistische algoritmen zijn ook onontbeerlijk voor zelfrijdende auto’s: als een ongeluk onafwendbaar is, moet het systeem beslissen welk ongeluk het minst erg is. Volgens Chris Gerdes, die zelfrijdende auto’s ontwerpt bij Waymo, is de trend nu om de software meer consequentialistisch te maken. Consequentialisme is ook leidend bij AI-wapensystemen. Militaire doelstellingen moeten worden afgewogen tegen mogelijke burgerslachtoffers, zegt Jack Shanahan, voormalig hoofd van het Joint Artificial Intelligence Centre, een bureau van de Amerikaanse strijdkrachten voor onderzoek naar AI.

Er zijn nog lastige problemen te over – van het soort waar filosofen van smullen. Zijn er gevallen denkbaar waarin de deontologische voorschriften genegeerd moeten worden? Hoe kom je tot een beslissing als de gevolgen onduidelijk zijn? Moeten AI-systemen ook het welzijn van dieren meewegen, of de milieugevolgen? Is het ethisch verantwoord om te stellen dat jonge voetgangers boven oudere gaan, vraagt Stefan Heck, opgeleid als filosoof en nu directeur van Nauto, een fabrikant van AI-gedreven veiligheidssystemen voor vrachtwagens en andere bedrijfsvoertuigen. Hij voorziet rechtszaken over dit soort ethische kwesties: consequentialistische algoritmen staan immers toe dat er schade wordt aangericht, zolang daarmee nog grotere schade wordt voorkomen.

Critici maken zich zorgen over ‘ethische analfabetisering’: als ethische knopen steeds vaker door computers worden doorgehakt, zullen mensen dan niet steeds huiveriger worden om zelf nog een oordeel te vellen? Volgens Roman Yampolskiy, een AI-deskundige van de universiteit van Louisville, zijn ethische oordelen ‘historisch wankel, cultureel afhankelijk, strategisch manipuleerbaar en vaak pas achteraf begrijpelijk’. Werkloze programmeurs, knoop het in je oren: voor AI-filosofen lijkt er voorlopig nog werk zat.