Tag: rome

Het monster van Frankenstein is na tweehonderd jaar nog steeds alive-and-kicking. In zijn nieuwe rol als boeman van de artificiële intelligentie (AI) kom je de creatie van Mary Wollstonecraft Shelley nog overal op internet tegen. De Britse literatuurcriticus Frances Wilson heeft het al uitgeroepen tot de ‘vruchtbaarste metafoor ter wereld’. Niet zonder ironie, maar toch: de titel past het monster wel. Want van Guardian-journalisten tot Google-ingenieurs, waarschuwingen over de gevaren van kunstmatige intelligentie liggen velen in de mond bestorven: AI is het grote monster onder ons bed. AI zit overal, van bedieningspanelen voor computers tot de donkere krochten van het internet, van Moskou tot Palo Alto. En die AI wordt krachtiger, sneller, slimmer en gevaarlijker dan de programmeurs die er aan de wieg van staan. Het hedendaagse monster van Frankenstein is nog veel griezeliger dan de uit genetische manipulatie of radioactieve straling ontstane gedrochten in B-films uit de Koude Oorlog. Uiteindelijk zal het als een geest uit de machine verrijzen om zijn scheppers en de hele mensheid te vernietigen.

De thema’s zijn nauwelijks veranderd sinds 1818, toen de 20-jarige Shelley haar roman uitbracht. De doemverhalen over AI in de media leunen voor hun schrikeffecten nog net zo zwaar op de conventies van het griezelgenre als Frankenstein, of de moderne Prometheus. Straks komen de robots in opstand om niet alleen de wereld te vernietigen, maar ook jouw dierbare privacy de nek om te draaien, tot in je eigen huis aan toe. Kijk maar naar Alexa, de Amazon-robot die precies weet wat jouw smaak is. Zij gaat je complete gezinsleven dirigeren, geheel naar jouw – lees: haar – wensen.

Het woord ‘robot’ werd in 1921 in de wereldliteratuur geïntroduceerd in het toneelstuk RUR (Rossums Universele Robots) van de Tsjechische schrijver Karel Čapek. ‘Kijk, kijk, kijk: bij elke deur stroomt het bloed over de drempel!’, hoorde het Praagse theaterpubliek toen. ‘Uit alle huizen stroomt bloed!’ Want Čapeks stuk schetst de cybernetische revolutie van de in Rossums fabriek massaal geproduceerde robots. Die mensvormige werkslaven komen in opstand en ‘vermoorden de mensheid’ in hun bed, net zoals Victor Frankensteins bruid Elizabeth in haar huwelijksnacht vermoord wordt door het monster dat hij heeft geschapen.

Zowel Shelley als Čapek schetsen een biotechnisch monster dat van onderop en van binnenuit een staatsgreep pleegt die succesvoller is dan de historische revoluties in Parijs of Sint Petersburg. Maar wie is er verantwoordelijk voor deze opstandige AI? Anders dan in het Frankrijk van het ancien régime of het tsaristische Rusland krijgt in het werk van deze auteurs niet de adel de schuld. Vol ontzetting roept de hoofdingenieur in Čapeks RUR uit: ‘Ik wijt het aan de wetenschap! Ik wijt het aan de technologie!’ Om vervolgens stil te vallen en zichzelf te corrigeren: ‘Wijzelf, wij dragen hier schuld aan!’ Niet de technologie is hier het probleem, maar de grootheidswaan van wetenschappers en techneuten.

In Shelleys roman sterft Victor Frankenstein op een schip in het Noordpoolgebied waar hij op zijn ‘bovenmenselijke’ schepping jaagt. Op zijn sterfbed zegt hij tegen de kapitein: ‘Het verontrust mij dat hij voortleeft en nog meer kwaad kan aanrichten in de wereld.’ Het is de enige keer dat uit zijn woorden enig verantwoordelijkheidsbesef blijkt voor het feit dat hijzelf het ‘rationele schepsel’ heeft gemaakt dat de meeste van zijn dierbaren heeft vermoord. Toch deinst hij ervoor terug om kapitein Walton te laten beloven met zijn bemanning de jacht op zijn ‘eerste schepping’ voort te zetten om die te ‘vernietigen’: ‘Ik durf u niet te vragen wat ik juist acht, want het is ook mogelijk dat ik door mijn emoties word verblind.’

Frankensteins halfslachtigheid is ook de onze. Als hij al niet goed weet in hoeverre hij of de mensheid verantwoordelijk is voor de schepping van een monsterlijke intelligentie, dan is ook ons wel wat verwarring vergund. Maar we zijn het onszelf (en grote geesten als Shelley en Čapek) verplicht om ons op de filosofische consequenties van onze wetenschappelijke en technologische scheppingsdrang te bezinnen. Hebben wij mensen vormen van intelligentie geschapen die we onszelf kwalijk kunnen nemen?

Product van de omgeving

Om te kunnen begrijpen wat kunstmatige intelligentie is, zo betoogde Google-ingenieur François Chollet op Medium.com in zijn artikel The Impossibility of Intelligence Explosion, moeten we beseffen dat álle intelligentie ‘in essentie situationeel’ is. De intelligentie van een mens manifesteert zich in de wijze waarop hij de problemen oplost die zich voordoen bij de verwerking van zijn ervaringen als individu. Voor de intelligentie van een computeralgoritme geldt hetzelfde: die schuilt in de wijze waarop dat algoritme de problemen oplost die zich voordoen bij het toepassen van zijn regels op de ingevoerde gegevens. Intelligentie, of het nu natuurlijke of kunstmatige intelligentie betreft, past zich aan aan de situatie.

Veder wijst Chollet erop dat mensen ook een product van hun eigen werktuigen zijn. Zoals de vroege mens met vuur of ingekerfde schelpen werkte, zo beschikt de moderne mens over pen, drukpers, boeken en computers om data te verwerken en de problemen van specifieke situaties op te lossen. Geheel in overeenstemming met de inzichten van antropologen als Agustín Fuentes van de University of Notre Dame in Indiana en Marc Kissel van de Appalachian State University in North Carolina stelt Chollet: ‘Onze intelligentie bevindt zich niet alleen in onze hersenpan, maar grotendeels daarbuiten in onze beschaving.’

Wetenschap en technologie zijn twee bepalende producten van de moderne menselijke beschaving. Dat we met behulp daarvan nu vormen van intelligentie creëren die op hun beurt zelfstandig problemen kunnen oplossen, is slechts het zoveelste voorbeeld van wat Agustín Fuentes in The Creative Spark (2017) een proces van creatieve interactie tussen mens en omgeving noemt. Als je met zijn antropologische blik naar de geschiedenis van de mensheid kijkt, is de hele beschaving een vorm van kunstmatige intelligentie: een verzameling instrumenten die door opeenvolgende culturen in de loop der tijd zijn ontwikkeld om de mens in staat te stellen lering te trekken uit het verleden, ten bate van alle mogelijke vormen van leven in het heden en de toekomst.

Als scheppers moeten wij van onze technologieën houden als van onze kinderen, want in ruwe, liefdeloze handen zullen het monsters worden

We kunnen verschillende types AI in de technologische gereedschapskist van onze beschaving onderscheiden. Zwakke AI, ook wel ANI (artificial narrow intelligence), is de naam voor de algoritmen die zijn ontworpen of getraind voor het oplossen van specifieke problemen. Sterke AI of AGI (artificial general intelligence) is de vorm van kunstmatige intelligentie die in de toekomst misschien werkelijk autonome intelligentie en zelfs bewustzijn kan opleveren. Machine learning of machinaal leren (ML) is de techniek die tegenwoordig de meeste aandacht krijgt als het gaat over AI: een computeralgoritme met een statistisch model dat bepaalde routines steeds herhaalt (en daarvan ‘leert’) om zich te ontwikkelen en bepaalde problemen steeds beter te kunnen oplossen. Net als bij mensen kan dit proces worden bijgestuurd met feedback van buitenaf, dan heet het ‘gecontroleerd leren’. Deep learning (DL) tot slot is een vorm van machinaal leren waarin modellen complexere taken uitvoeren op meerdere niveaus.

De output van elke taak is daarbij steeds nodig voor de uitvoering van een volgende taak op een hoger niveau. Voor de herkenning van een met de hand geschreven getal kan zo’n algoritme bijvoorbeeld in de eerste fase de pagina afzoeken naar geschreven tekst, waarna een tweede fase nodig is om de contouren daarvan vast te stellen, een derde om uit de locatie van die contouren de vorm af te leiden, en een vierde fase om uit de combinatie daarvan de cijfers van het getal af te leiden. Deep learning kan hogere logica toepassen op complexe lagen ‘big data’ voor het oplossen van ingewikkelde technische problemen.

Dreigen we met machinaal leren en sommige vormen van deep learning nu net als Frankenstein waanzinnig slimme monsters tot leven te wekken die onze ondergang zullen worden? Dat was wat Shelley zich voorstelde en wat sommige computerwetenschappers tegenwoordig ook voorzien.

Het kantelpunt waarop AGI de intelligentie van de mensheid zal evenaren om die vervolgens te overtreffen, staat in de wereld van de cybernetici bekend als ‘de singulariteit’. Dat is het kortstondige punt waarop de intelligentie van de mens volledig gelijkwaardig is aan die van AGI. Dit zal een uniek moment in de wereldgeschiedenis blijken te zijn, en zal volgens de experts niet lang meer op zich laten wachten. AGI zal zich namelijk onstuitbaar blijven ontwikkelen en haar menselijke schepper uiteindelijk overheersen. De singulariteit is de Silicon Valley-versie van het hegeliaanse ‘einde van de geschiedenis’, maar dan in grijze T-shirts en hoodies. Het is het begin van het einde van de menselijke intelligentie, bewerkstelligd door de machines die hun intelligentie daarvan hebben afgekeken.

Die singulariteit heeft iets religieus, iets mystieks. Er wordt een beeld opgeroepen van alwetende goden en hun half-menselijke nazaten die, weliswaar kort maar waardig en op gelijke voet, tegenover elkaar staan. Het is het beeld van Pallas Athene, de uit het hoofd van Zeus geboren godin van de wijsheid, die de Titaan Prometheus helpt het vuur van de goden te stelen om aan de mensen te geven. Of van Frankenstein die op een gletsjer hoog in de Alpen het ijzingwekkende verhaal van het monster aanhoort, over hoe het in zijn eentje moest zien te overleven en nu – heetgebakerd – genoegdoening eist. De singulariteit is de moderne versie van deze mythe. Een toekomstvisioen waarin de mens straks tegenover een elektrisch apparaat staat dat hem strak aankijkt.

Zij die in de singulariteit geloven, beroepen zich graag op de wijsheid van Stephen Hawking. De overleden Engelse natuurkundige waart als postume intelligentie nog in filmpjes op internet rond, als een hologram van Hamlets vader die ons toespreekt vanuit het graf. In november 2017 zei Hawking in een toespraak: ‘AI zou de grootste ramp in de geschiedenis van onze beschaving kunnen zijn.’ Maar geen paniek: als je de hele toespraak van Hawking op de Web Summit in Lissabon beluistert, hoor je hem – degelijk denker die hij is – nadruk leggen op dat voorwaardelijke ‘zou’. Kunstmatige intelligentie kán goed, slecht of neutraal uitpakken. Het valt onmogelijk te voorspellen wat de gevolgen van AI zullen zijn. ‘We weten simpelweg nog niet en kúnnen ook niet weten’, zei Hawkings mechanische, door bewegingen van zijn gezichtsspieren aangestuurde computerstem, ‘of AI ons enorm zal helpen, ons zal negeren of op een zijspoor rangeren, of ons mogelijk zelfs zal vernietigen.’ Niet lang daarna schreef Chollet dat de voorspelling van een dreigende ‘intelligentie-explosie’ zwaar overtrokken was en dat AI niet exponentieel, maar lineair zou groeien.

De naam van Frankenstein viel nergens in Hawkings toespraak, maar zijn betoog was wel doorspekt met dezelfde filosofische thema’s die ook in Shelleys boek een rol spelen. Zoals alle grote literatuur kan haar roman niet worden gereduceerd tot een simpele moraal, bijvoorbeeld over de gevaren van wetenschappers die voor God spelen. Het boek is eerder een puzzel die de cognitieve en emotionele intelligentie van de lezer op de proef stelt. Het leesplezier schuilt erin dat je de verschillende puzzelstukjes in elkaar ziet vallen. En om de ethische puzzel van Frankenstein op te lossen, helpt het om oog te hebben voor de theologische achtergrond. Het woord ‘superintelligentie’ dateert al van eind zeventiende eeuw, toen de quakers het gebruikten als omschrijving voor het Opperwezen. Het was een woord dat veel voorkwam in het religieuze debat in het Engeland van Shelleys jeugd.

In haar roman schrijft Shelley dat het monster zich met ‘bovenmenselijke’ snelheid voortbeweegt. Maar het gaat niet louter om fysieke snelheid. Nadat Frankenstein het monster aan elkaar heeft genaaid, tot leven heeft gewekt en vervolgens aan zijn lot heeft overgelaten, maakt het een cognitieve en emotionele ontwikkeling door die veel sneller verloopt dan bij mensen. Zoals veel baby’s spreekt het na een maand of zes zijn eerste woordjes, maar weer een halfjaar later kan het Miltons Paradise Lost al lezen. Het brengt zichzelf taal bij door via een gat in de muur de familie De Lacey te bespieden, Frans-Turkse vluchtelingen die zich ophouden in de bossen bij Ingolstadt.

Het monster is een hogere intelligentie, maar dat geldt ook voor Shelley. Haar geest zweeft over het hele verhaal, dat door haar is bedacht. Het is een raamvertelling met als eerste verteller kapitein Walton, die brieven schrijft aan zijn zus in Londen. Anne K. Mellor, hoogleraar Romantiek aan de University of California, heeft er in Mary Shelley: Her Life, Her Fiction, Her Monsters al op gewezen dat de initialen van die zus, ‘MWS’, ook die van Mary Wollstonecraft Shelley zijn. De vrouw die de brieven ontvangt – met daarin behalve het relaas van Walton ook de verhalen van Frankenstein, zijn monster en de familie De Lacey – is de auteur van de roman. Zij bepaalt de inhoud, de vorm en het doel van het verhaal. En door Frankenstein op de gletsjer oog in oog te brengen met zijn monster en dat een stem te geven, zet Shelley de lezer ertoe aan zich in de kunstmatige intelligentie in te leven. Diens kunstmatige schepping begint met een verwekking zonder moeder. Vervolgens worden in zijn leven de opvoedkundige ideeën geïllustreerd van John Locke (en van Shelleys vader William Godwin), die Shelley fanatiek gelezen had. Volgens die theorieën werd de vorming van kinderen bepaald door hun omstandigheden, te beginnen met de vroegste zintuiglijke gewaarwording van hun omgeving. Het monster heeft weliswaar geen moeder, maar maakt dezelfde contextuele en interactieve ontwikkeling door als andere kinderen. En AI wordt net als Frankensteins monster weliswaar niet uit een moeder geboren, maar wel door de omstandigheden gevormd.

Geen big data

Terwijl het verweesde monster vanuit een belendende bouwval zijn buren bespiedt, ontwikkelt het zijn intelligentie met de doelmatigheid van een computer en de intensiteit van een kind. Het zuigt kennis op over ‘de geschiedenis van mijn vrienden’, de familie De Lacey. Het krijgt geen volledige informatie, geen ‘big data’, maar moet zich behelpen met wat er aan gegevens door het gat in de muur sijpelt. Het schepsel analyseert de input van de buren binnen de beperkingen van het ‘programma’ van zijn eigen krotwoning. Net als de Amerikaanse Google Assistant en de Russische Alisa is hij een ‘intelligente assistent’ die zowel de vooroordelen van zijn culturele context als de emotionele grenzen van zijn data en programmatuur aan de dag legt.

Toch voldoet het monster in zijn bouwval aan zes criteria voor deep learning: hij leert in het gezin De Lacey zowel (1) gezichten als (2) spraakpatronen te herkennen; (3) hij leert te vertalen: het Frans van Felix en misschien het Arabisch van Safie, het Engels van Milton, het Duits van Goethe en het Grieks (of Latijn) van Plutarchus; (4) hij kan het handschrift in het logboek van zijn vaders laboratorium lezen; (5) hij speelt strategische spelletjes met mensen, door de familie eerst stiekem aan brandhout te helpen en later uit wraak hun huis plat te branden als ze hem vol afschuw hebben afgewezen en de streek zijn ontvlucht; en (6) hij stuurt robotprothesen aan, want zijn lichaam, samengesteld uit delen van verschillende dode mensen en dieren, is een mensvormig product van scheikundig en medisch vernuft en elektriciteit.

Omdat het leven in de echte wereld een kwestie van vallen en opstaan is, kan AI – net als het monster – misschien wel ‘diepe’, maar geen foutloze kennis verwerven. Een kunstmatige intelligentie kan uit verhalen lessen opdoen – maar ook de verkeerde lessen. Een slecht geprogrammeerde computer zal data onjuist verwerken. En slechte data zullen de computer tot een onjuiste analyse brengen.

Meer dan twintig jaar voordat Charles Babbage en Ada Lovelace het grondmodel van de moderne computer bedachten, de ‘analytische machine’, stelde Shelley zich die schepping al voor als een mensvormig AI – inclusief alle bekrompen maar krachtige vooroordelen, diepe maar misleidende gedachten en sterke maar tegenstrijdige gevoelens waar mensen mee kampen. Shelleys scheppingsverhaal is geënt op Genesis en de Prometheus-mythe, en eenvoudig: AI wordt geschapen naar het evenbeeld van de gebrekkige maar machtige mens. Als scheppers moeten wij – zoals de Franse socioloog Bruno Latour ons in de geest van Shelley voorhoudt – van onze technologieën houden als van onze kinderen, want in ruwe, liefdeloze handen zullen het monsters worden.

In haar essay ‘A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century’ stelde de Amerikaanse feministe Donna Haraway in 1984 dat alle mensen cyborgs zijn, hybride combinaties van ‘machine en organisme’. We zijn ook allemaal AI’s die leren van de input van verhalen en andere ervaringen. Als AI’s die nolens volens door context en cultuur zijn gevormd moeten we de les van Shelley, de moeder van de sciencefiction, ter harte nemen en oog hebben voor de geschiedenis en het soort verhalen dat we erover vertellen.

In een stuk in T_he New Yorker_ wees de Amerikaanse historica Jill Lepore op Shelleys andere speculatieve roman_ The Last Man,_ anoniem gepubliceerd in 1826. Daarin is de hele mensheid in het jaar 2100 uitgeroeid door een plaag, met uitzondering van één man, Lionel Verney. Het is een sleutelroman en Verney is het alter ego van Shelley zelf, die in 1826 al veel dierbaren heeft verloren: vijf kinderen die aan ziekte zijn bezweken, haar zus die zelfmoord heeft gepleegd, haar man Percy Shelley die in Italië is verdronken en hun vriend, de dichter Lord Byron, die op een Grieks slagveld aan bloedvergiftiging is overleden.

Maar in plaats van te bezwijken onder wanhoop en verdriet stuurt Shelley haar literaire stand-in Verney naar Rome. Dat bleef haar lievelingsstad, ook nadat haar drie jaar oude zoontje William daar in het voorjaar van 1819 aan een koortsaanval was overleden. Verney kan er ‘vertrouwelijk converseren met dit wereldwonder, die soevereine meesteres der verbeelding, de majestueuze en eeuwige stad die miljoenen generaties uitgestorven mensen heeft overleefd’. Hij – of zij, moet ik eigenlijk zeggen – ‘waart rond’ in het Vaticaan en betrekt het Palazzo Colonna, vol bewondering voor alle kunst en architectuur. Geïnspireerd door de schoonheid en grandeur van Rome fantaseert Shelley, bij monde van Verney, over de mogelijkheid dat een nieuwe Adam en Eva ergens in een afgelegen streek, veilig voor de plaag, de aarde opnieuw kunnen bevolken.

Verney wil de mensheid redden en bezoekt daarom ‘de bibliotheken van Rome’, hij wil alle ‘bibliotheken van de wereld’ benutten. Hij leest de oude geschiedenisboeken en wil zelf een nieuwe ‘geschiedenis van de laatste mens’ schrijven. ‘Ik heb de Sint-Pieter beklommen’, laat Shelley hem noteren. Vanaf het dak van die koepel overziet ze – door de ogen van haar alter ego – de glorieuze ruïnes en monumenten. Via het personage van Verney stelt Shelley zichzelf voor als paus, keizer en God in één. Ze weet dat ze over de scheppende kracht beschikt om zichzelf en de mensheid met haar schrijfkunst – de vrucht van onderwijs – voor de uitsterving te behoeden. Ze is geworden wat Frankenstein niet was: een kunstenaar die de mensheid vertroosting en wijsheid biedt door het trauma van haar verleden onder ogen te zien en om te vormen.

Toekomst en verleden

Denkers over AI komen altijd weer terug bij Frankenstein, zoals Shelley en Verney terugkeerden naar Rome, om eer te bewijzen aan het vernuft van de menselijke intelligentie. Net als Rome op het toppunt van zijn macht kan AI menselijke beschavingen bouwen of vernietigen. Net als Frankensteins schepping kan AI een monster of een slachtoffer van de mens worden. Rome motiveerde Shelley, en Verney, om de mensheid te behouden door kennis te delen en te verspreiden. Als kapitein Walton de jammerklachten van het monster bij de doodskist van zijn vader hoort, stemt hem dat tot nadenken en drijft het hem ertoe brieven over de tragedie van Frankenstein te schrijven aan zijn zuster ‘MWS’. Vanuit deze inzichten kunnen mensen misschien samen met onze AI-vrienden vrij toegankelijke verzamelplekken van kennis opzetten en onderwijsgemeenschappen vormen voor de verheffing van het hele netwerk van alle wezens die de harde data van het leven moeten verwerken. Shelley in Rome, vanaf de koepel van de Sint-Pieter virtueel uitkijkend over de stad, symboliseert het feit dat de toekomst van kunstmatige intelligentie zal berusten op wat wij van ons culturele verleden hebben geleerd.