Volgens de Japanse filosoof Hiroshi Toya heeft Japan ‘een rotsvast vertrouwen’ in AI. In een interview met het Japanse dagblad Asahi Shimbun benadrukt hij dat we onze eigen verantwoordelijkheid in het oog moeten houden en ons eigen verstand moeten blijven gebruiken.
Op dit moment is de wereld verdeeld over de regulering van generatieve AI-systemen als ChatGPT. Hoewel de G7 afgelopen mei tijdens de top in Hiroshima pleitte voor ‘een betrouwbare AI’, voelden sommige landen, zoals Japan, er minder voor om deze nieuwe technologie aan allerlei regels te onderwerpen. ‘De Japanse maatschappij heeft een groot vertrouwen in AI,’ aldus een bezorgde Hiroshi Toya, filosoof en hoogleraar aan de Kansai University for International Studies. Hij maant bovendien tot voorzichtigheid: ‘Als we onze aandacht uitsluitend richten op ChatGPT, verliezen we de fundamentele veranderingen uit het oog die het gevolg zijn van het binnendringen van AI in onze maatschappij.’ Op welke veranderingen doelt hij dan?
ChatGPT wint snel terrein. Wat zijn volgens u de pro’s en contra’s ervan?
‘Zeggen dat ChatGPT alleen maar slecht is zou een simplistische constatering zijn die vooralsnog nergens op is gebaseerd. Het is in feite moeilijk te voorspellen of de app algemene ingang zal vinden, zoals Amazon of Gmail. Voorlopig zie ik ChatGPT vooral als een speeltje. Het probleem is volgens mij niet het programma zelf, maar wat wij, de maatschappij, ervan verwachten.
Wij mensen zijn behept met een extreem sterk verlangen om overal zo snel mogelijk antwoord op te krijgen. In die mate zelfs dat sommigen, volgens artikelen die ik heb gelezen, ChatGPT verwijten dat het programma er te lang over doet om een vraag te beantwoorden, terwijl het maar een kwestie van enkele minuten is. Dat je niet eens een paar minuten kunt wachten gaat toch alle perken te buiten? Onze maatschappij is geobsedeerd door onmiddellijke resultaten, zonder de tijd te nemen voor enige reflectie. Als filosoof zit ik regelmatig in gedachten verzonken met mijn armen over elkaar achter mijn bureau, maar dat geldt vandaag de dag als “inefficiënt”. Dingen goed en langzaam overdenken is steeds minder in trek.’
‘Ik denk dat het nodig is om altijd afstand te kunnen blijven nemen van AI en haar systemen’
Wat voor kwalijke gevolgen kan deze ontwikkeling hebben?
‘Als niemand er momenteel last van heeft, kun je waarschijnlijk denken dat het niet erg is. Maar als op een dag de door AI gemodelleerde ‘normaliteit’ sneuvelt, bijvoorbeeld door een ramp of een oorlog, worden we waarschijnlijk geconfronteerd met een periode van chaos. Dan zullen we zelf beslissingen moeten nemen om problemen op te lossen: zullen we tegen die tijd nog wel over een denkvermogen beschikken dat ons in staat stelt de beste keuzes te maken? In het verarmde en uitgeputte Duitsland van na de Eerste Wereldoorlog konden de mensen niet langer zelfstandig denken en lieten ze zich inpalmen door de nazi-ideologie, waardoor ze medeplichtig werden aan de Holocaust. Zullen we in het geval van een crisis in staat zijn te zeggen dat het oordeel van AI onjuist is? Ik denk dat het nodig is om altijd afstand te kunnen blijven nemen van AI en haar systemen. Als we onze aandacht uitsluitend op ChatGPT richten, verliezen we naar mijn mening de fundamentele veranderingen uit het oog die het gevolg zijn van het binnendringen van AI in onze maatschappij.’
Zijn de veranderingen die door ChatGPT zelf in gang worden gezet dan niet zo belangrijk?
‘Ten aanzien van maatschappelijke kwesties probeert ChatGPT een groot scala aan meningen te dekken. Stel je het programma bijvoorbeeld een vraag over de gelijkheid tussen vrouwen en mannen, dan zal het alleen de verschillende gezichtspunten op een rij zetten zonder er enige conclusie aan te verbinden. Ik heb de indruk dat het programma meer vragen oproept dan antwoorden geeft. In plaats van problemen op te lossen maakt het keuzes alleen maar moeilijker. Het is zonder twijfel in staat zinnen te produceren die menselijk lijken, maar die maken het ons eerder moeilijker dan makkelijker om beslissingen te nemen en keuzes te maken. Aan genderkwesties kleeft een groot aantal verschillende aspecten, en elk standpunt dat je erover inneemt kan relatief gevoelig zijn. We moeten de verantwoordelijkheid voor onze keuzes nemen.’
Zijn de antwoorden die AI geeft niet op zichzelf problematisch?
‘Voordat we voor een bepaald antwoord kiezen hebben we natuurlijk de vraag al geformuleerd. Als we AI de voorwaarden van de discussie laten bepalen, onttrekken we ons aan onze verantwoordelijkheid in dezen. Het is gevaarlijk om te geloven dat ChatGPT alle aspecten van een kwestie in overweging neemt. Ik vrees dat we steeds minder goed in staat zullen zijn om andere keuzes en gezichtspunten onder ogen te zien dan die welke door AI worden voorgesteld. ChatGPT geeft antwoorden die zijn gebaseerd op bestaande internetgegevens, zonder de juistheid daarvan ter discussie te stellen.’
Baart het gebruik van ChatGPT zorgen op ethisch gebied?
‘In de huidige situatie niet. In de toekomst zal het misschien voor problemen zorgen op politiek en juridisch gebied. Sommige parlementsleden hebben al ChatGPT gebruikt voor debatten, maar dat betrof tot dusver alleen de teksten die ze voorlazen. Wanneer je bijvoorbeeld de verdeling van de socialezekerheidsgelden aan AI zou toevertrouwen, zou dat discriminatie in de hand kunnen werken, zoals een verlaging van de uitkeringen aan senioren omdat hun minder levensjaren resten. Zolang debatten en beslissingen op politiek en juridisch gebied onder menselijke verantwoordelijkheid blijven vallen en het systeem niet instort, geloof ik niet dat we bang hoeven te zijn voor een ernstige ethische crisis.’
Het belangrijkst blijft het om te weten of de gebruikers de beslissingen die door AI worden ingegeven als hun eigen beslissingen beschouwen
Sommige mensen zullen AI misschien gebruiken zonder daarvoor uit te komen.
‘Inderdaad. Het belangrijkst blijft het om te weten of de gebruikers de beslissingen die door AI worden ingegeven als hun eigen beslissingen beschouwen en de verantwoordelijkheid aanvaarden voor de acties die ze ondernemen. Het zou onverantwoordelijk en funest zijn om te zeggen: “We kunnen er niets aan doen want het is een suggestie van AI”, zonder dat we stilstaan bij onze eigen verantwoordelijkheid.
Wat Japan betreft, dat is een land dat een rotsvast vertrouwen heeft in AI. In westerse fictie met AI als thema wordt vaak de nadruk gelegd op de dreiging die ervan uitgaat, en op de menselijke verantwoordelijkheid voor het gebruik ervan. In Japan, waar de invoering van AI redelijk soepel verloopt, wordt daar niet vaak bij stilgestaan. Japanners lijken deze nieuwe ontwikkeling lijdzaam over zich heen te laten komen. “Als we er toch niets tegen kunnen doen, kunnen we er maar beter in meegaan,” zeggen ze waarschijnlijk bij zichzelf. Het is van wezenlijk belang om de kwestie te relativeren, om te begrijpen wat er op mondiaal niveau wordt bediscussieerd, en niet in hysterische speculaties te verzinken die de zaak alleen maar erger maken.’
