De doorbraak van ChatGPT en de razendsnelle ontwikkeling van AI roept nieuwe ethische vraagstukken op. Wanneer moeten we chatbots als mensen behandelen? En kunnen we kunstmatige intelligentie aansprakelijk stellen als die een fout maakt?
Een software-ingenieur van Google deed vorig jaar een bijzondere bewering: dat een door dit bedrijf ontwikkelde AI-chatbot een bewustzijn, het recht om als een persoon te worden gezien en misschien zelfs een ziel had. Na een volgens Google ‘langdurige dialoog’ met de betreffende werknemer over deze kwestie werd hij door het bedrijf ontslagen. Dat is waarschijnlijk niet het laatste voorval in zijn soort. Kunstmatige intelligentie kan nu al essays schrijven, winnen met schaken, mogelijke tumoren detecteren en zakelijke besluiten nemen. Dat is slechts het begin van een technologie die alleen maar krachtiger en breder verbreid zal worden en zo de aloude vrees voedt dat de robots ons op een goede dag voorbij zullen streven.
De vraag of ze rechten moeten krijgen, wordt prangender door de plotse doorbraak van ChatGPT en het met AI uitgebreide Bing (de zoekmachine van Microsoft), die de wereld verrassen met de kwaliteit van hun antwoorden op de vragen van gebruikers. Nu wordt door juristen, filosofen en robotdeskundigen al jaren over deze kwesties gedebatteerd. En de algemene teneur van dat debat is dat er rechten moeten worden toegekend aan kunstmatige intelligentie zodra die een bepaalde mate van verfijning bereikt. ‘Het zou een ethisch fiasco zijn,’ schrijven de filosofen Eric Schwitzgebel en Mara Garza in een artikel uit 2015, ‘als onze maatschappij in de toekomst grote aantallen AI’s van menselijk niveau bouwt die over net zoveel bewustzijn beschikken als wij, net zo bezorgd zijn over hun toekomst en net zo goed in staat tot het ervaren van vreugde en pijn, en die AI’s vervolgens op triviale gronden simpelweg worden gemarteld, tot slaaf gemaakt en gedood.’
Lees ook:
Deze opvatting berust vooral op de verwachting dat robots zoiets als bewustzijn kunnen ontwikkelen: het vermogen om dingen waar te nemen en te voelen. De vraag is of een artificieel brein ooit echt zover kan komen, of dat het hooguit een bewustzijn kan nabootsen, zoals nu nog het geval lijkt te zijn.
Als robots al rechten krijgen, zegt David J. Gunkel, de schrijver van Robot Rights (2018) en andere boeken over dit thema, zal dat eerst gaan om het soort elementaire bescherming tegen mishandeling dat dieren op veel plaatsen nu al genieten. Net als dieren zou je robots kunnen zien als wat filosofen wel ‘morele patiënten’ noemen: wezens die recht hebben op een ethische behandeling, los van de vraag of ze aan de taken en verplichtingen van een ‘morele actor’ kunnen voldoen. Je hond is een morele patiënt, en jijzelf ook. Maar jij bent ook een morele actor: iemand die in staat is onderscheid te maken tussen goed en kwaad en daarnaar te handelen.
Verantwoordelijkheid
Levende dieren hebben natuurlijk een bewustzijn, terwijl kunstmatige intelligentie, ook in de machines die wij robots noemen, alleen bestaat in de vorm van regels computercode. Toch zullen mensen misschien minder snel overgaan tot geweld, schelden of intimidatie bij wezens die bewustzijn lijken te hebben – uit empathie, of uit angst dat zulk gedrag tot algemene verruwing kan leiden. Dat is een tweede argument voor het toekennen van robotrechten. Kate Darling, onderzoeker aan het MIT, denkt dat het voorkomen van geweld tegen robots die sociale interacties met mensen hebben (en antropomorf reageren) ook kan helpen te voorkomen dat mensen afgestompt raken over geweld tegen elkaar. Ze schrijft dat Kant immers al zei dat ‘wie dieren wreed behandelt, ook in de omgang met mensen verhardt’.
Het pleidooi voor robotrechten zal waarschijnlijk aan kracht winnen naarmate kunstmatige intelligentie verfijnder wordt. Dat voert naar een derde argument voor het toekennen van rechten: dat robots steeds meer in staat zullen zijn tot autonoom handelen, en daarmee enerzijds verantwoordelijk gehouden kunnen worden voor hun gedrag, en anderzijds een eerlijke berechting verdienen. Als het eenmaal zover is, zouden robots morele actoren zijn – die dan weleens aanspraak zouden kunnen maken op de bijbehorende rechten, zoals het recht op eigendom, op het sluiten van juridische overeenkomsten en zelfs op het uitbrengen van een stem.
Sommige deskundigen voorspellen de opkomst van een nieuwe tak van wetgeving om robots rechtsbescherming te bieden en ter verantwoording te kunnen roepen. Er wordt nu al nagedacht over of je robots juridisch aansprakelijk moet maken als ze iets verkeerd doen, en wat dan passende straffen zouden zijn.
Als wij maar aardig voor robots zijn, zijn zij het straks misschien ook voor ons als ze de macht overnemen
Er is een ander argument voor robotrechten dat nog meer op eigenbelang leunt: als wij maar aardig voor hen zijn, zijn zij het straks misschien ook voor ons als ze de macht overnemen. Door onszelf niet als heersers over de aarde te beschouwen, maar als onderdeel van een harmonieus moreel ecosysteem, ‘reserveren we een plekje voor onszelf in een wereld met een hypothetische entiteit die sterker is dan wij’, zegt Brian Christian, die bestsellers schrijft over de manier waarop mensen en computers elkaar beïnvloeden.
Sherry Turkle, die als hoogleraar aan MIT onderzoek doet naar de sociologie van de technologie, is afkerig van het idee om robots als personen te beschouwen. Robots, zegt ze, zijn geen ‘morele wezens. Het zijn intelligente, handelende voorwerpen.’ Wel erkent ze dat wij in onze omgang met robots de neiging hebben ze als levende wezens te behandelen, ook al zijn ze het niet.
Wat voor nieuwe normen er in onze robottoekomst waarschijnlijk zullen ontstaan, liet Kate Darling van MIT zien aan de hand van een workshop waarin de deelnemers mochten spelen met Pleo’s, ‘schattige robotdinosaurussen ter grootte van een kleine kat’. Toen de deelnemers na afloop werd verzocht hun Pleo vast te binden en af te maken, ‘leidde dat tot consternatie en weigerden veel deelnemers hun robot “pijn” te doen, ze beschermden ze zelfs fysiek,’ zegt ze. Eén deelneemster haalde de batterijen uit haar Pleo om hem ‘de pijn te besparen’, ook al wisten alle deelnemers dat dit speelgoed was dat niets kon voelen.
‘We antropomorfiseren erop los,’ zegt Gunkel, en hij voegt eraan toe dat dit geen gebrek maar een deugd van de mens is. ‘We projecteren een bewustzijn op onze honden en katten en computers. Dat is een eigenschap die we niet kunnen uitschakelen.’
Uiterlijk
Hoe wij actoren met kunstmatige intelligentie in de toekomst zullen behandelen, zo merkte de filosoof Sidney Hook in 1959 al op, zal ervan afhangen ‘of ze in uiterlijk en gedrag lijken op andere mensen die we kennen’. Als robots in hun uiterlijk en hun functioneren op mensen lijken, als ze naast ons leven, voor ons zorgen en met ons praten, kan het voor mensen moeilijk worden om hun rechten te onthouden. Wat onderscheidt ons dan immers nog van hen behalve onze herkomst en chemische samenstelling?
Als ze eenmaal over voldoende vermogens beschikken, zullen robots dit op een dag zelf bepleiten, en Levy denkt dat de mens tegen die tijd zo met zijn robothelpers vergroeid zal zijn, dat hij ermee instemt. ‘Als een robot uiterlijk alles wegheeft van een mens,’ zegt hij, zullen mensen ‘veel makkelijker accepteren dat de robot een bewustzijn heeft en onze liefde verdient, en dus accepteren dat hij een persoonlijkheid heeft en leeft’. In zijn boek Love and Sex with Robots zegt Levy dat mensen uiteindelijk ook met robots zullen trouwen, net zoals ze nu al huisdieren lijken te adopteren in plaats van kinderen te krijgen. Een intieme relatie tussen mens en robot kan pas bevredigend zijn, zegt hij, als robots over veel persoonlijkheid, gevoeligheid en zelfs autonomie beschikken. Ze zullen er ook heel erg als u en ik moeten uitzien, maar hoogstwaarschijnlijk nog veel beter. Hij stelt zich voor dat zo halverwege deze eeuw het ontstaan van liefdesrelaties tussen mens en robot echt op gang zal komen.
Lees ook:
