De Amerikaanse regering start een aantal mededingingsonderzoeken naar OpenAI, Nvidia en Microsoft vanwege mogelijk te vergaande dominantie van de markt van kunstmatige intelligentie (AI). Dat schrijft The New York Times. De onderzoeken zullen vast stellen of deze ‘drie grote spelers in de kunstmatige intelligentie-industrie’ zich schuldig maken aan concurrentiebeperkende praktijken.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
Volgens de krant zal het ministerie van Justitie het onderzoek leiden naar producent van halfgeleiders Nvidia, terwijl de Amerikaanse Federal Trade Commission (FTC) zich zal richten op OpenAI en Microsoft. Begin januari kondigde de FTC aan dat zij een onderzoek was gestart naar de kolossale investeringen van Microsoft, Google en Amazon in OpenAI en Anthropic, de toonaangevende startups op het gebied van generatieve kunstmatige intelligentie.
AI-industrie staat onder druk om nepnieuws aan te pakken
Technologiebedrijf OpenAI heeft bekendgemaakt dat het geheime beïnvloedingscampagnes vanuit Rusland, China, Israël en Iran heeft verstoord, meldt Forbes. De maker van ChatGPT en andere software met kunstmatige intelligentie zei dat het vijf campagnes had geïdentificeerd met ‘misleidende pogingen om de publieke opinie te manipuleren of politieke uitkomsten te beïnvloeden zonder de ware identiteit of bedoelingen van de actoren erachter te onthullen’.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
De campagnes gebruikten de software van OpenAI om tekst en afbeeldingen te genereren die werden geplaatst op sociale mediaplatforms zoals Telegram, X en Instagram, , aldus OpenAI in een statement op de website van het bedrijf. OpenAI zei dat het accounts heeft beëindigd die geassocieerd waren met twee Russische operaties genaamd Bad Grammer en Doppelganger; een Chinese campagne bekend als Spamouflage; een Iraans netwerk genaamd International Union of Virtual Media; en een Israëlische operatie met de naam Zero Zeno.
Beïinvloedingsoperaties op sociale mediaplatforms hebben de aandacht getrokken van de techwereld sinds 2016, toen werd vastgesteld dat door Rusland gesponsorde entiteiten probeerden tweedracht te zaaien in de aanloop naar de presidentsverkiezingen ten gunste van toenmalig kandidaat Donald Trump. Vooral de mogelijkheid dat AI-nepnieuws verkiezingen kunnen verstoren, voedt de angst nu miljarden mensen over de hele wereld dit jaar naar de stembus gaan, waaronder in de VS, India en de Europese Unie. Daarom staat de AI-industrie onder toenemende druk om verantwoording af te leggen voor de content die haar producten maken. Experts roepen de industrie op om te voorkomen dat gebruikers misleidend en kwaadaardig materiaal genereren – en om manieren aan te bieden om de oorsprong en distributie ervan te traceren, aldus The New York Times.
Het nieuwste orakel in de kunstmatige-intelligentierace, Gemini, blijkt nogal wat eigenaardigheden te bevatten in het genereren van goed gelijkende beelden. Hoe moeten we het wokisme van deze ‘waarheidsmachine’ duiden?
Stel je een kort verhaal voor uit de bloeitijd van de sciencefiction, een verhaal dat in 1956 in een boulevardblad zou verschijnen. De titel is ‘De waarheidsmachine’ en de auteur voorziet een toekomst waarin computers, van die kolossen die tot aan het plafond reiken, krachtig genoeg worden om mensen antwoord te geven op elke vraag die er te stellen valt, van de hoofdstad van Bolivia tot de beste manier om een biefstuk te marineren.
Hoe zou zo’n verhaal aflopen? Ongetwijfeld met de onthulling van een geheime agenda achter de belofte van allesomvattende kennis. Zoals dat er misschien een nog slimmere en creatievere machine is, de Waarheidsmachine 2.0, waarop iedereen zijn zinnen heeft gezet. Waarna een groep andersdenkenden erachter komt dat versie 2.0 fanatiek en krankzinnig is, dat de machine de mens voorbereidt op een totalitaire hersenspoeling of onvrijwillige uitsterving.
Gebruikers meldden dat ze wel plaatjes van Vladimir Lenin mochten zien maar niet van Adolf Hitler
Dit hersenspinsel is geïnspireerd op onze werkelijke versie van de Waarheidsmachine, het orakel Google, dat kortgeleden Gemini heeft gelanceerd als de nieuwste deelnemer aan de kunstmatige-intelligentierace. Het duurde niet lang voordat gebruikers bepaalde, nou ja, eigenaardigheden aan Gemini ontdekten. De opvallendste was dat het model moeite had om goed gelijkende beelden te genereren van Vikingen, oude Romeinen, willekeurige Duitse echtparen van rond 1820 en verschillende andere demografische types met een doorgaans wat blekere teint.
Het probleem was misschien enkel dat het beeldmateriaal van de AI op raciale diversiteit was geprogrammeerd en dat de historische weergave daarvan op de een of andere manier (aldus Google zelf) haar doel voorbij was geschoten, met als gevolg dat een verzoek om een afbeelding van een Duitse soldaat anno 1943 Afrikaanse en Aziatische types in Werhrmachtsuniform opleverde. Maar door de manier waarop Gemini vragen beantwoordde, leek de niet-witte oriëntatie eerder te worden ingegeven door het wereldbeeld dat eraan ten grondslag lag. Gebruikers meldden dat hun de les werd gelezen over ‘schadelijke stereotypen’ wanneer ze om een afbeelding van Norman Rockwell vroegen, dat ze te horen kregen dat ze wel plaatjes van Vladimir Lenin mochten zien maar niet van Adolf Hitler, en dat ze nul op het rekest kregen als ze vroegen om afbeeldingen van groepen die als wit werden aangemerkt.
Woke AI
De Amerikaanse schrijver en statisticus Nate Silver meldde dat hij antwoorden kreeg die ‘uit de politieke koker van het gemiddelde gemeenteraadslid van San Francisco leken te komen’. Journalist Timothy Carey van Washington Examiner ontdekte dat Gemini voorstander was van een kinderloos bestaan en tegen het hebben van een groot gezin; het voorzag om ethische redenen niet in een recept voor foie gras, maar wist wel te vertellen dat er aan kannibalisme veel verschillende kanten zaten.
Dit soort resultaten als ‘woke AI’ bestempelen is geen belediging. Het is een technische beschrijving van wat ’s werelds toonaangevendste zoekmachine besloot prijs te geven.
Op deze ervaring zijn drie reacties mogelijk. De eerste is de typisch conservatieve reactie, zo van: zie je nou wel? Hier krijgen we een kijkje achter de schermen, wordt ons onthuld wat de mensen die verantwoordelijk zijn voor ons dagelijkse informatiedieet werkelijk geloven, namelijk dat alles waaraan ook maar iets wits kleeft verdacht is, dat alles wat ook maar naar niet-westers zweemt bijzonder respect verdient en dat de geschiedenis teruggekoppeld en gedekoloniseerd moet worden om aan de hedendaagse behoeften te kunnen voldoen. Google maakte het in dit geval misschien wel heel erg bont, maar we mogen er gevoeglijk van uitgaan dat de volledige architectuur van het moderne internet door eenzelfde, zij het iets subtielere vooringenomenheid wordt gekenmerkt.
Spot gedreven
De tweede reactie is nonchalanter. Ja, Gemini ademt vermoedelijk de denkbeelden van sommige mensen die in Silicon Valley verantwoordelijk zijn voor ideologische correctheid. Maar we leven niet in een sciencefictionverhaal met maar één Waarheidsmachine. Als de zoekbalk van Google Gemini-achtige resultaten zou opleveren, zouden gebruikers die voor gezien houden. En op internet wordt overal buiten Google de spot met Gemini gedreven, vooral op een concurrerend platform dat wordt gerund door een miljardair die befaamd is om zijn afkeer van wokisme. We kunnen beter meespotten dan bang zijn voor woke AI – of nóg beter, ons net als zangeres Grimes, ooit de geliefde van voornoemde unwoke miljardair, verbazen over wat het gekwelde algoritme van Gemini voortbrengt en de resultaten beschouwen als een ‘meesterwerk van performancekunst’, als ‘stralend hoogtepunt van zakelijk surrealisme’.
De derde reactie weegt de twee eerdere zienswijzen tegen elkaar af en stelt dat veel afhangt van de kant die AI volgens jou op zal gaan. Blijft het hele project een opgepimpt zoekmodel, een machine die middelmatige verhandelingen en talloos veel nutteloze uitweidingen voortbrengt, dan zal iedere poging om er een fanatieke ideologische agenda mee af te dwingen vermoedelijk onder alle drek worden bedolven.
Hoe serieuzer je die zienswijze neemt, hoe minder vermakelijk de Gemini-ervaring wordt
Maar die kant zal het volgens de makers van modellen als Gemini niet opgaan met hun werk. Zij zien zichzelf als de architecten van iets goddelijks, iets wat kan uitgroeien tot de perfecte Waarheidsmachine – die op vooralsnog onvoorstelbare manieren problemen oplost – dan wel tot onze leermeester en opvolger die al onze vragen overbodig maakt.
Hoe serieuzer je die zienswijze neemt, hoe minder vermakelijk de Gemini-ervaring wordt. Wanneer je het vermogen om een chatbot te creëren in handen speelt van dwazen en mensen die je de regels willen voorschrijven, bega je als bedrijf een komische blunder. Wanneer je dwazen en mensen die je de regels willen voorschrijven de opdracht geeft een halfgod of een duivel te creëren, zal het waarschijnlijk net zo aflopen als in het gemiddelde sciencefictionverhaal: slecht voor iedereen.
Alle beelden in Maharaja in Denims zijn met AI gemaakt
Het Indiase Intelliflicks Studios wil de eerste bioscoopfilm produceren waarvan de beelden volledig door AI zijn gegenereerd. Dat schrijft South China Morning Post. De filmmaatschappij uit de Noord-Indiase stad Chandigarh is van plan de historische roman Maharaja in Denims van schrijver Khushwant Singh te verfilmen zonder set, acteurs of zelfs maar een camera. In een onlangs uitgebracht trailer is alvast een voorproefje te zien.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
‘AI is de weg voorwaarts en heeft deuren geopend naar grenzeloze creatieve mogelijkheden en zal zeker traditionele normen verstoren en de wereldcinema vormgeven,’ aldus Singh, die samen met techgoeroe Gurdeep Singh Pall, die voorheen bij Microsoft de leiding had over zakelijke AI-projecten, eigenaar is van Intelliflicks Studios. Volgens Singh is AI het nieuwe paradigma voor ‘toegankelijke en efficiënte creativiteit’.
De productie van de eerste door AI gegenereerde speelfilm markeert een mogelijk enorme verschuiving in de omvangrijke Indiase filmindustrie. In tegenstelling tot Hollywood, waar acteurs en scenarioschrijvers hebben geprotesteerd tegen door AI gegenereerde inhoud, staat de Indiase filmindustrie – ’s werelds grootste producent van speelfilms met meer dan 1200 releases per jaar in zo’n 25 talen – positiever tegenover AI. Vooral als het AI ingezet kan worden om de kosten te drukken.
Dat is ook de belangrijkste reden voor Intelliflicks Studios om de film door AI te laten genereren. Het produceren van Maharaja in Denims zou op de conventionele manier – met acteurs en een filmploeg – minstens 6 miljoen dollar kosten, maar AI maakt het mogelijk om de film voor een zesde van die prijs te produceren.
Gebombardeerde huizen, vernielde voertuigen, puin op straat. In die chaos lopen twee kinderen in warm avondlicht. Het is een foto die zó genomineerd kan worden voor een persprijs, ware het niet dat hij door AI is gegenereerd. Hoewel Gaza niet expliciet wordt vermeld in de beschrijving van de afbeelding, komt hij bij een zoekopdracht op de site met stockfoto’s van Adobe als een van de eerste naar voren bij het trefwoord ‘Gaza’.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
Het beeld van de twee kinderen is gemaakt door de Iraanse kunstenaar Meysam Azarneshin, die op Adobe Stock nog veel meer werken aanbiedt. Twee daarvan kwamen terecht op de website van het Duitse leger en in een publicatie van het Oostenrijkse ministerie van Defensie, aldus Neue Zürcher Zeitung. Bij de beelden staat niet dat ze met behulp van AI gegenereerd zijn, terwijl dat volgens richtlijnen van Adobe Stock wel zou moeten. Kennelijk handhaaft het bedrijf de eigen regels niet, en het wil ook geen persvragen beantwoorden. Hetzelfde geldt voor Alamy dat, anders dan Adobe Stock, naast stockfoto’s ook echte persfoto’s aanbiedt.
Sinds de aanval van Hamas op Israël wordt online een grote hoeveelheid onbetrouwbare informatie over het conflict verspreid. Het wordt steeds moeilijker om te zeggen wat waar is en wat niet, vooral als het gaat om AI-afbeeldingen, die steeds vaker rondgaan.
Het wordt steeds moeilijker om te zeggen wat waar is en wat niet, vooral als het gaat om AI-afbeeldingen
Het is steeds eenvoudiger om ze te maken, en ze verkopen op Adobe Stock kennelijk beter dan echte foto’s. Volgens informatie van Stockperformers, een analyseportaal voor stockfotografen, verdienen kunstenaars op Adobe Stock gemiddeld 17 cent per maand per AI-afbeelding, vier keer zoveel als het gemiddelde. Toch is het de vraag of het verstandig is om ze te gebruiken, zo merkte Amnesty International in april. Dengo postte AI-afbeeldingen op sociale media ter illustratie van een rapport over politiegeweld in Colombia en vermeldde erbij dat de beelden door AI waren gecreëerd. Desondanks werd Amnesty beschuldigd van valse informatie, omdat de afbeeldingen de waarheid van het rapport geweld aan zouden doen.
In Frankrijk voorziet een wetsartikel specifiek in vervolging van verspreiders van AI-gegenereerde pornografische content, die nu wordt beschouwd als ‘seksistisch cybergeweld’.
Keuze uit het archief
De AI-tool Grok heeft de functie voor het maken van afbeeldingen voor niet-betalende abonnees uitgeschakeld. De tool werd gebruikt om afbeeldingen van vrouwen te manipuleren, waarbij hun kleding werd verwijderd en ze in geseksualiseerde posities werden geplaatst.
Het besluit volgde na hevige wijdverbreide protesten, maar had eigenlijk al veel eerder genomen moeten worden. Uit dit artikel van Le Monde blijkt namelijk dat deze zorgelijke trend al zeker drie jaar aan de gang is.
Taylor Klein stond op het punt haar ingenieursstudie in het Amerikaanse Connecticut af te ronden, toen ze ontdekte dat er fake pornovideo’s van haar op internet circuleerden. ‘Die video’s werden duizenden keren bekeken. Toen ik die avond naar bed ging, stortte ik in. Ik voelde me heel vies (…) Ik had het gevoel dat iemand me probeerde te straffen,’ vertelt de jonge vrouw in de documentaire Another Body, die eind oktober in de Verenigde Staten is uitgebracht.
Meer dan een uur lang volgen regisseurs Sophie Compton en Reuben Hamlyn de strijd van Klein en haar zoektocht naar de ware toedracht achter deze video’s sinds haar leven op zijn kop werd gezet door pornografische deepfakes. Foto’s en video’s worden gemaakt of aangepast met behulp van kunstmatige intelligentie (AI) en beelden vrouwen zonder hun toestemming af in erotische situaties.
De zaak van Taylor Klein – die haar verhaal doet onder een valse naam – laat zien dat deze snel groeiende vorm van seksistisch cybergeweld niet alleen is gericht op filmactrices, zangeressen en politici. Onlangs waren er berichten over dergelijke voorvallen met doorsneetienermeisjes, in een klein stadje in Zuid-Spanje en op Amerikaanse middelbare scholen. Door de sprongen die AI de afgelopen jaren heeft gemaakt – met steeds realistischer deepfakes tot gevolg – is ook het profiel van de slachtoffers veranderd. En hun aantal is geëxplodeerd.
‘We hebben meer deepfakes van dit meisje nodig: ik ken veel mensen die er veel geld voor zouden betalen’
De Amerikaanse analist Genevieve Oh werkt al een aantal jaar aan het kwantificeren en in kaart brengen van online pornografische deepfakes. Recentelijk, in het derde kwartaal van 2023, telde de statisticus een totaal van 276.149 van dergelijke video’s. Ze zijn eenvoudig toegankelijk op het traditionele web en voor het merendeel te vinden op een handvol pornografische sites die aan deze beelden zijn gewijd.
MrDeepFakes, over wiens duistere banden met de kunstmatige media Le Monde vorig jaar al berichtte, blijkt nog steeds het populairste portaal te zijn, met 1,3 miljard cumulatieve views. Over het geheel genomen blijft de activiteit op de tien populairste sites groeien: dit jaar rouleren er twee keer zo veel video’s als vorig jaar. Ze werden meer dan 4,2 miljard keer bekeken, wat betekent dat het publiek vier keer groter is dan in 2019.
Seksuele deepfakes worden ook gehost op traditionele pornoplatforms. Hoewel de meeste, zoals die van de MindGeek-groep (Pornhub, RedTube en YouPorn), deze inhoud verbieden en gebruikers die op zoek zijn naar deepfakes waarschuwen voor mogelijke illegale activiteiten, blijven de Franse sites XVideos en XNXX ze verspreiden, ontdekte Le Monde. De sites reageerden niet op verzoeken om commentaar.
Deepfakes worden ook heimelijker verspreid, op gesloten servers van de app Discord, op besloten Telegram-kanalen of via minder bekende berichtendiensten zoals Kik. In ruil voor cryptovaluta bestellen internetgebruikers deepfakes van publieke figuren of bekenden bij gespecialiseerde leveranciers. ‘We hebben meer deepfakes van dit meisje nodig: ik ken veel mensen die er veel geld voor zouden betalen’, schrijft een gebruiker op een forum.
Maar het gaat niet alleen over obscure praktijken of verborgen materiaal. Simpele zoekopdrachten op Google volstaan om pornografische deepfakes te vinden. Zo ook kun je online makkelijk leren hoe je zelf pornografische deepfakes kunt maken.
Op mainstream netwerken zijn er zelfs advertenties die nudifiers aanprijzen, apps die de kleding van een gefotografeerde persoon kunnen ‘verwijderen’, tot groot ongenoegen van mensen die zonder hun toestemming – en soms zonder hun medeweten – zijn gefotografeerd. Ze moeten veel moeite doen om hun foto’s te laten verwijderen. De Franse journalist Salomé Saqué, slachtoffer van dergelijke pesterijen op Instagram, stelde op zaterdag 2 december deze praktijken aan de kaak in Le Monde.
Amendement
Veel van de slachtoffers zijn vrouwen die online content creëren. Eerder dit jaar zagen de Noord-Amerikaanse streamers Pokimane en QTCinderella hoe Atrioc, een van hun tegenhangers, live op Twitch een pornografische site met video’s van hen liet zien. In Frankrijk hekelde streamer Maghla in oktober 2022 op Twitter wat haar was overkomen; haar hoofd was gemonteerd op de lichamen van pornoactrices. In een video die kort daarna werd gepubliceerd, klaagde youtuber Juju Fitcats: ‘Mensen beleven er kennelijk plezier aan om er urenlang aan te werken om mij van mijn kleren te ontdoen en me van nepborsten te voorzien (…). Ze gebruiken content die ik zelf heb geplaatst om nepnaaktfoto’s van te fabriceren.’
Meer recentelijk kaartte influencer Lena Situations het onderwerp aan in een vlog, nadat ze online een nepfoto van zichzelf had gezien. ‘Het is verschrikkelijk, er zijn zoveel meiden op het internet die dit moeten meemaken,’ zegt ze. De drie contentmakers reageerden niet op verzoeken om commentaar van Le Monde.
Naar aanleiding van deze verhalen werd Jean-Noël Barrot, staatssecretaris Digitale Transitie, door een aantal internetpersoonlijkheden gevraagd te reageren. Hij vertelde een aantal van hen te hebben gesproken. Barrot, die al enige maanden werkt aan het wetsvoorstel ‘Beveiliging en Regulering van de Digitale Ruimte’ (SREN), heeft samen met senator Alexandra Borchio-Fontimp (van Les Républicains) een amendement over pornografische deepfakes aan het voorstel toegevoegd.
Het amendement zal het volgens het Wetboek van Strafrecht strafbaar maken om ‘pornografische deepfake onder de aandacht te brengen van het publiek of derden’. Daarop staat twee jaar gevangenisstraf plus een boete van 60.000 euro, en maximaal drie jaar gevangenisstraf plus een boete van 75.000 euro als de beelden worden verspreid ‘met behulp van openbare online communicatiediensten’, zoals sociale media of videosharingplatforms. Het wetsvoorstel werd half oktober in eerste lezing aangenomen door de Nationale Assemblee – het Franse parlement – en zal in december in zijn geheel worden bestudeerd door de commissie Gelijke Behandeling. Na een laatste stemming kan Frankrijk een van de eerste landen ter wereld worden die beschikken over wetgevende middelen om dit soort deepfakes te bestrijden.
Daarmee zijn de zorgen echter niet verdwenen. Laure Salmona, directeur van Féministes contre le cyberharcèlement [Feministen tegen cyberpesten] en coauteur van Politiser les cyberviolences. Une lecture intersectionnelle des inégalités de genre sur Internet [Politisering van cybergeweld. Een intersectioneel essay over online genderongelijkheid], hoopt dat de ‘criminalisering’ van deze seksistische foto’s en video’s gepaard zal gaan met ‘echte politieke wil’. De expert roept op tot betere training van politieagenten en wijst erop dat slechts 3 procent van de klachten over online geweld leidt tot vervolging, volgens een onderzoek dat Ipsos in 2022 deed in opdracht van haar vereniging.
Het dochterbedrijf van Alphabet wijst erop dat er voor slachtoffers manieren bestaan om deze afbeeldingen en duplicaten ervan uit de zoekmachine te verwijderen
Laure Salmona wil ook platforms zoals Telegram, Reddit en X ‘verantwoordelijk maken’. Zij spelen volgens haar indirect een katalyserende rol in de verspreiding van deze beelden, door slechte moderatie. Op vragen van Le Monde over het bestaan van een Discord-server gewijd aan de handel in pornografische deepfakes, zegt een woordvoerder van dat bedrijf dat het kanaal in kwestie is verwijderd, dat Discord ‘proactieve en reactieve’ moderatietools gebruikt en dat het in bepaalde gevallen samenwerkt met relevante autoriteiten.
Google verdedigt zich op dezelfde manier. ‘Onlangs zijn we begonnen met specifieke verbetering van de ranking die de zichtbaarheid van expliciete deepfakes aanzienlijk beperkt voor zoekopdrachten die niet gericht zijn op dit materiaal, en we zullen de verbeteringen de komende maanden blijven doorvoeren,’ aldus een woordvoerder van het Amerikaanse bedrijf in een e-mail. Er is echter geen sprake van dat verwijzingen naar deze content volledig zullen worden gestopt, aangezien het bedrijf het als zijn primaire missie ziet om ‘toegang tot informatie te maximaliseren’. Het dochterbedrijf van Alphabet wijst erop dat er voor slachtoffers manieren bestaan om deze afbeeldingen en duplicaten ervan uit de zoekmachine te verwijderen.
Maar in werkelijkheid blijft een groot deel van de links naar sites als MrDeepFakes online staan, en wordt er probleemloos naar doorverwezen door niet alleen Google maar ook door Microsoft, Bing en Yahoo. Het SREN-wetsvoorstel, dat zich meer richt op de verspreiding dan op de creatie van deze deepfakes (want als de auteur van dergelijke inhoud deze privé houdt, wordt hij of zij niet vervolgd), houdt zich slechts in beperkte mate bezig met deze sites en de diensten die ze promoten.
Desgevraagd verwijst Jean-Noël Barrot naar de Digital Services Act (DSA) van de Europese Unie, die eind augustus van kracht werd. ‘Deze regelgeving verplicht platforms om illegale inhoud die bij hen wordt gemeld te verwijderen,’ aldus de minister. ‘Aangezien pornografische deepfake illegaal is, zoals we samen met het parlement en de Senaat hebben besloten, is het aan de platforms om deze inhoud te verwijderen.’
Op dit moment is de DSA alleen van toepassing op negentien grote platforms, maar dat bereik moet begin volgend jaar uitgebreid worden. Maar, zegt Laure Salmona, ‘het is nu al tijd om te handelen. We zien in welke mate dit alles versnelt door generatieve AI, en hoe voor veel te veel mensen een extreem vijandige digitale sfeer wordt gecreëerd’.
E-bikes beter voor het milieu dan elektrische auto‘s
Bijna de helft van het woon-werkverkeer in Australië gebeurt met de auto en beslaat minder dan 10 kilometer. In de VS is zelfs 60 procent van alle autoritten korter dan 10 kilometer. Een elektrische auto kopen dus? Nou, voor al die korte ritten is een elektrische fiets of brommer goedkoper in aanschaf en gebruik én beter voor het milieu, schrijft Ars Technica. Steeds meer mensen zien dat in.
Een elektrische fiets of brommer is goedkoper in aanschaf en gebruik én beter voor het milieu
Dankzij hun onstuitbare opmars in vooral China is de vraag naar elektrische tweewielers vier keer zo groot als die naar elektrische auto’s. Tegenover ruim 20 miljoen elektrische personenwagens en 1,3 miljoen elektrische bussen en vrachtwagens reden er vorig jaar wereldwijd meer dan 280 miljoen elektrische bromfietsen, scooters, motorfietsen en driewielers rond. Hun populariteit vermindert de vraag naar olie met een miljoen vaten olie per dag. Dat komt neer op ongeveer 1 procent van de wereldwijde vraag naar olie.
Self Similar heet dit reusachtige nieuwe werk van de Amerikaanse kunstenaar Jim Denevan in Abu Dhabi. Het is de première van een nieuw initiatief van het ministerie van Cultuur en Toerisme om openbare werken in de Verenigde Arabische Emiraten nieuw elan te geven. Er is ook een lichtkunsttentoonstelling voor de hele stad te zien, naast 35 andere locatiegebonden kunstwerken van lokale en internationale kunstenaars. Denevan maakt al jarenlang precieze geometrieën op uitgestrekte zandvlakten. Zijn composities zijn vergankelijk van aard, ze verdwijnen door de veranderende jaargetijden.Bezoekers kunnen dit werk, op het Fahid-eiland in Abu Dhabi, aan de randvan de Perzische Golf, vanaf een brug bekijken. De 19 ringen en 448 piramides omspannen bijna een vierkante kilometer; het hoogste werk meet 27 meter.
De rijkste 1 procent op aarde zorgt voor meer CO2-uitstoot dan de armste 66 procent, aldus The Great Carbon Divide, een rapport van The Guardian, Oxfam en het Stockholm EnvironmentInstitute. Het is het grootste onderzoek naar mondiale klimaatongelijkheid tot nog toe. Volgens het rapport was een ‘vervuilerselite’ van 77 miljoen mensen – onder wie miljardairs, miljonairs en mensen met een salarisvan meer dan 130.000 euro per jaar – verantwoordelijk voor 16 procent van alle CO2-uitstoot in 2019.
Volgens het rapport was een ‘vervuilerselite’ van 77 miljoen mensen verantwoordelijk voor 16 procent van alle CO2-uitstoot in 2019
Met behulp van een formule voorsterftecijfers – die uitgaat van wereldwijd 226 extra sterfgevallen voor elke miljoen ton CO2– is berekend dat de uitstoot van de rijkste 1 procent in de komende decennia verantwoordelijk zal zijn voor de hitte gerelateerde dood van 1,3 miljoen mensen. Onevenredig veel mensen die in armoede leven worden getroffen: 91 procent van de sterfgevallen als gevolg van extreem weer doet zich voor in ontwikkelingslanden, volgens de VN.
Watercrisis
Het tekort aan drinkwater wordt een belangrijk onderwerp bij de verkiezingen van volgend jaar in Mexico, aldus Americas Quarterly. Overal in het land komen steeds vaker watertekorten voor. Die leiden tot economische problemen en massale protesten, én krijgen toenemende aandacht van de twee belangrijkste presidentskandidaten: Claudia Sheinbaum van de regerende Morena-partij en Xóchitl Gálvez van de Breed Front-coalitie.
De afgelopen maanden protesteerden duizenden mensen tegen watertekorten. Volgens de grondwet moet de overheid toegang tot schoon drinkwater garanderen, maar daar wordt voor steeds meer burgers in stedelijke gebieden en kleine gemeenten niet aan voldaan. Van de Mexicanen heeft 57 procent geen toegang tot een betrouwbare waterbron, en 105 van de 653 watervoerende lagen in het land worden zodanig geëxploiteerd dat ze niet meer gevuld raken. Samen met China en de Verenigde Staten is Mexico een van ’s werelds grootste verbruikers van gebotteld water.
Gebombardeerde huizen, vernielde voertuigen, puin op straat. In die chaos lopen twee kinderen in warm avondlicht. Het is een foto die zó genomineerd kan worden voor een persprijs, ware het niet dat hij door AI is gegenereerd. Hoewel Gaza niet expliciet wordt vermeld in de beschrijving van de afbeelding, komt hij bij een zoekopdracht op de site met stockfoto’s van Adobe als een van de eerste naar voren bij het trefwoord ‘Gaza’.
Het beeld van de twee kinderen is gemaakt door de Iraanse kunstenaar Meysam Azarneshin, die op AdobeStock nog veel meer werken aanbiedt. Twee daarvan kwamen terecht op de website van het Duitse leger en ineen publicatie van het Oostenrijkse ministerie van Defensie, aldus Neue Zürcher Zeitung. Bij de beeldenstaat niet dat ze met behulp van AI gegenereerd zijn, terwijl dat volgens richtlijnen van Adobe Stock wel zou moeten. Kennelijk handhaaft het bedrijf de eigen regels niet, en het wil ook geen persvragen beantwoorden. Hetzelfde geldt voor Alamy dat, anders dan Adobe Stock, naast stockfoto’s ook echte persfoto’s aanbiedt.
Sinds de aanval van Hamas op Israël wordt online een grote hoeveelheid onbetrouwbare informatie over het conflict verspreid. Het wordt steeds moeilijker om te zeggen wat waar is en wat niet, vooral als het gaat om AI-afbeeldingen, die steeds vaker rondgaan.
Het wordt steeds moeilijker om te zeggen wat waar is en wat niet, vooral als het gaat om AI-afbeeldingen
Het is steeds eenvoudiger om ze te maken, en ze verkopen op Adobe Stock kennelijk beter dan echte foto’s. Volgens informatie van Stockperformers, een analyseportaal voor stockfotografen, verdienen kunstenaars op Adobe Stock gemiddeld 17 cent per maand per AI-afbeelding, vier keer zoveel als het gemiddelde. Toch is het de vraag of het verstandig is om ze te gebruiken; dat merkte Amnesty International in april. Dengo postte AI-afbeeldingen op sociale media ter illustratie van een rapport over politiegeweld in Colombia en vermeldde erbij dat de beelden door AI waren gecreëerd. Desondanks werd Amnesty beschuldigd van valse informatie, omdat de afbeeldingen de waarheid van het rapport geweld aan zouden doen.
In Spanje wonen ruim driehonderdduizend Britten. De meerderheid daarvan is op leeftijd en hoopt de oudedag te slijten op een goedkope, zonnige plek. Kelly Hall, universitair docent Sociaal Beleid aan de Universiteit van Birmingham, deed onderzoek naar deze migranten en zegt dat sommigen tegen ‘grote problemen’ aanlopen. Dat schrijft Euronews. Ze verhuizen rond hun vijftigste of zestigste, als ze nog gezond zijn, naar plekken in Spanje waar veel andere Britten wonen. Ze leren geen Spaans omdat ze het ‘moeilijk’ vinden of het ‘niet nodig’ denken te hebben. ‘Ze zijn een tijdje heel gelukkig,’ zegt Hall, ‘maar dan gebeurt er iets – een partner overlijdt of ze krijgen gezondheidsproblemen waardoor ze in een onzekere positie terechtkomen die geestelijke problemen of eenzaamheid kan veroorzaken.’
Ze leren geen Spaans omdat ze het ‘moeilijk’ vinden of het ‘niet nodig’ denken te hebben
Neil Hesketh van Support in Spain, een non-profitorganisatie die Britse expats helpt, zegt dat ze niet altijd plannen maken voor de ‘vervelende dingen in het leven’. Ook Brexit heeft het leven van veel Britten in Spanje beïnvloed. Vooral mensen met lagere inkomens, zegt Hall, zijn hard getroffen door de waardevermindering van het pond. ‘Ze kunnen niet langer uitgaan met hun vrienden, waardoor hun sociale leven verdwijnt.’ Ze wijst op gevallen waarbij oudere mensen op het strand moesten slapen omdat ze hun huur niet konden betalen.Ook de Britse ambassade in Spanje waarschuwt dat veel van de 72.000 Britten die aan de Costa del Sol wonen – de thuisbasis van de grootste gemeenschap Britten in Spanje – geïsoleerd en alleen kunnen zijn en roept deskundigen en overheidsinstanties op om hun landgenoten te helpen.
Doordat de populariteit van kunstmatige intelligentie toeneemt, groeit de vraag naar grote, kwalitatief goede datasets. Maar die zijn schaars. ‘Een data-landjepik zal niet lang meer op zich laten wachten.’
Nog niet zo lang geleden vroegen analisten zich openlijk af of kunstmatige intelligentie (AI) de dood zou betekenen voor Adobe, een maker van software voor creatieve types. Nieuwe tools als DALL-E 2 en Midjourney, die beelden uit tekst toveren, leken de fotobewerkingsprogramma’s van Adobe overbodig te maken. Afgelopen april publiceerde Seeking Alpha, een financiële nieuwssite, nog een artikel met de kop: ‘Wordt AI de dood voor Adobe?’
Verre van. Adobe heeft zijn database met honderden miljoenen stockfoto’s gebruikt om zijn eigen suite van AI-tools te bouwen, Firefly gedoopt. Sinds de software afgelopen maart is vrijgegeven zijn er al meer dan een miljard beelden mee gecreëerd, zegt Dana Rao, een leidinggevende bij het bedrijf. Door niet naar beelden op internet te zoeken, wat concurrenten deden, heeft Adobe de steeds verhitter wordende discussie over auteursrechten die de industrie nu achtervolgt weten te omzeilen. De aandelenkoers van het bedrijf is sinds de lancering van Firefly met 36 procent gestegen.
Adobes triomf over de zwartkijkers werpt ook in bredere zin een licht op de strijd om dominantie in de zich snel ontwikkelende markt voor AI-tools. De supergrote modellen die de nieuwste golf zogeheten ‘generatieve’ AI aandrijven maken gebruik van gigantische hoeveelheden data. Nadat ze het internet al flink hebben afgegraasd., vaak zonder toestemming, zijn modelbouwers nu op zoek naar nieuwe databronnen om de razende honger te stillen. Ondertussen bekijken bedrijven die over enorme hoeveelheden data beschikken hoe ze die het best te gelde kunnen maken. Een data-landjepik zal niet lang meer op zich laten wachten.
De twee essentiële ingrediënten voor een AI-model zijn datasets, waarop het systeem wordt getraind, en verwerkingskracht, waarmee het model relaties binnen en tussen deze datasets detecteert. Deze twee ingrediënten zijn tot op zekere hoogte substituten: een model kan worden verbeterd door ofwel meer data in te voeren ofwel meer verwerkingskracht toe te voegen. Dat laatste wordt echter bemoeilijkt door een tekort aan gespecialiseerde AI-chips, zodat modelbouwers dubbel gefocust zijn op het zoeken naar data.
Hoogwaardige tekst
De vraag naar data groeit zo snel dat de voorraad hoogwaardige tekst die voor training beschikbaar is in 2026 misschien uitgeput zal zijn, schat onderzoeksbureau Epoch AI. De laatste AI-modellen van techgiganten Google en Meta zijn naar wordt aangenomen getraind op meer dan een biljoen woorden. Ter vergelijking: het totale aantal Engelse woorden op Wikipedia bedraagt zo’n vier miljard.
Niet alleen de omvang van de datasets telt. Hoe beter de data, des te beter het model. Op tekst gebaseerde modellen zijn idealiter getraind op uitgebreide, goed geformuleerde, feitelijk juiste geschriften, zegt Russell Kaplan van data-startup Scale AI. Bij modellen waarin deze informatie wordt ingevoerd is er een grotere kans dat ze output van overeenkomstige hoge kwaliteit leveren. Op diezelfde manier geven AI-chatbots betere antwoorden wanneer ze wordt gevraagd hun werking stap voor stap uit te leggen, waardoor de vraag naar bronnen als leerboeken die dat ook doen toeneemt. Gespecialiseerde informatiesets zijn ook in trek, omdat die het mogelijk maken modellen te finetunen voor meer nichetoepassingen. Nadat Microsoft in 2018 voor 7,5 miljard dollar GitHub had aangekocht, een online platform voor de opslag van softwareprogramma’s, was het makkelijker om een AI-tool voor het schrijven van programma’s te ontwikkelen.
‘In Amerika is er al een aantal rechtszaken tegen modelbouwers aangespannen wegens inbreuk op het auteursrecht’
Naarmate de vraag naar data toeneemt wordt het steeds moeilijker om er toegang toe te krijgen, omdat contentmakers nu compensatie eisen voor materiaal dat in AI-modellen is ingevoerd. In Amerika is er al een aantal rechtszaken tegen modelbouwers aangespannen wegens inbreuk op het auteursrecht. Een groep schrijvers, onder wie komiek Sarah Silberman, heeft een aanklacht ingediend tegen OpenAI, de maker van de AI-chatbot ChatGPT, en tegen Meta. Ook heeft een groep kunstenaars Stability AI aangeklaagd, een bouwer van tekst-naar-beeldtools, en Midjourney.
Het resultaat van dit alles is dat AI-bedrijven om het hardst deals proberen te sluiten voor het veiligstellen van databronnen. Afgelopen juli tekende OpenAI een contract met nieuwsagentschap Associated Press om toegang te krijgen tot hun tekstarchief. Ook heeft het bedrijf kortegeleden een uitgebreidere overeenkomst gesloten met Shutterstock, een leverancier van stockfoto’s, waarmee ook Meta een deal heeft. Op 8 augustus jongstleden werd gemeld dat Google in gesprek is met platenlabel Universal Music over het gebruik van artiestenstemmen voor een AI-tool voor het schrijven van songs. Vermogensbeheerder Fidelity heeft verklaard te zijn benaderd door techbedrijven die toegang willen tot zijn financiële data. Ook gaan er geruchten over AI-labs die de Britse omroep BBC benaderen voor toegang haar foto- en filmarchief. Een ander doelwit is naar verluidt JSTOR, een digitale bibliotheek van wetenschappelijke tijdschriften.
Bezitters van informatie profiteren van hun sterkere onderhandelingspositie. Reddit, een discussieforum, en Stack Overflow, een vraag-en-antwoordsite die populair is bij programmeurs, hebben de toegangskosten voor hun data verhoogd. Beide websites zijn extra waardevol omdat gebruikers gewenste antwoorden ‘upvoten’, waardoor modellen weten welke het relevantst zijn. Socialemediasite Twitter (inmiddels bekend als X) heeft maatregelen genomen om het scrapen door bots te beperken en vraagt nu geld voor toegang tot zijn data. Elon Musk, de onberekenbare eigenaar, is van plan met behulp van de data een eigen AI-bedrijf te beginnen.
Datavliegwiel
Als gevolg hiervan zijn modelbouwers hard bezig om de kwaliteit van de input waarover ze al beschikken te verbeteren. Veel AI-labs hebben legers van data-annotators in dienst voor taken als het labelen van beelden en het beoordelen van antwoorden. Een deel van dat werk is complex; in één advertentie voor zo’n baan wordt een masterdiploma of doctoraat in de biowetenschappen gevraagd. Maar vaak is het minder ingewikkeld en wordt het uitbesteed aan landen als Kenia waar arbeid goedkoop is.
AI-bedrijven verzamelen ook data via interacties tussen gebruikers en hun tools. Vaak gebeurt dat in de vorm van een feedbackmechanisme, waarbij gebruikers aangeven wat voor output nuttig is. De tekst-naar-beeldgenerator van Firefly laat gebruikers uit één tot vier opties kiezen. Bard, de chatbot van Google, stelt drie antwoorden voor. Gebruikers kunnen ChatGPT een duim omhoog of een duim omlaag geven wanneer die antwoord op vragen geeft. Die informatie kan als input in het onderliggende model worden gestopt en, om met de Nederlandse Douwe Kiela, medeoprichter van de startup Contextual AI, te spreken, als ‘datavliegwiel’ fungeren. Een nog betere graadmeter voor de kwaliteit van de antwoorden van de chatbot is of gebruikers de tekst kopiëren en ergens anders in plakken, voegt hij eraan toe. Het analyseren van zulke informatie heeft Google snel geholpen om zijn vertaaltool te verbeteren.
‘Vaak wordt het werk uitbesteed aan landen als Kenia waar arbeid goedkoop is’
Er is echter één databron die grotendeels onbenut blijft: de informatie die aanwezig is binnen de muren van de zakelijke klanten van de techbedrijven. Veel bedrijven beschikken, vaak zonder het te weten, over enorme hoeveelheden nuttige data, van transcripten van callcenters tot cijfers over consumentenbestedingen. Zulke informatie is vooral waardevol omdat er modellen voor specifieke zakelijke doeleinden mee kunnen worden gefinetuned, zoals het beantwoorden van klantvragen door callcentermedewerkers of het stimuleren van de verkoop door bedrijfsanalisten.
Maar het valt niet altijd mee om die rijke bron aan te boren. Roy Singh van adviesbureau Bain merkt op dat de meeste bedrijven van oudsher weinig aandacht besteden aan de verschillende soorten omvangrijke maar ongestructureerde datasets die uiterst nuttig zouden blijken voor het trainen van AI-tools. Dikwijls zijn deze over tal van systemen verspreid en in bedrijfsservers begraven in plaats van opgeslagen in de cloud.
Door die informatie te ontsluiten zouden bedrijven beter in staat zijn AI-tools aan te passen aan hun specifieke behoeften. De techgiganten Amazon en Microsoft bieden nu tools aan om bedrijven te helpen hun ongestructureerde datasets beter te beheren, evenals Google. Christian Kleinerman van databasebedrijf Snowflake zegt dat de zaken uitstekend gaan nu klanten proberen ‘datasilo’s af te breken’. De startups schieten als paddenstoelen uit de grond. Afgelopen april haalde Weaviate, een op AI gericht databasebedrijf, 50 miljoen dollar op en wordt sindsdien gewaardeerd op 200 miljoen. Nauwelijks een week later haalde concurrent PineCone 100 miljoen dollar op, met een huidige waardering van 750 miljoen. Eerder deze maand haalde Neon, een andere database-startup, nog eens 46 miljoen dollar op aan financiering. Het gevecht om data is nog maar net begonnen.
Als je wilt weten wie iemand is, vraag dan wat voor boeken hij leest. Dit principe bracht een groep studenten aan de School of Information op het idee om onderzoek te doen naar de literaire voorkeuren van kunstmatige intelligentie (AI). Daaruit blijkt dat aan programma’s als Chat-GPT nog het nodige mankeert.
Sinds de opkomst van de ontwikkelde burgerij in de achttiende eeuw biedt een blik in de boekenkast – en later in de platencollectie – een geliefd inkijkje in de persoonlijkheid en de normen en waarden van iemand die je nog niet zo goed kent. De Engelse romanschrijver Nick Hornby ging in High Fidelity zelfs zo ver dat hij zich afvroeg of je wel van mensen kunt houden die naar Phil Collins luisteren. Voor het antwoord had hij 320 pagina’s nodig.
Deze gewoonte kwam gedurende de coronapandemie weer in zwang, omdat bij Zoom- en Teams-vergaderingen de boekenkast op de achtergrond deskundigheid uitstraalde. Waarom zou dezelfde methode niet ook werken bij kunstmatige intelligentie, die immers pretendeert onze dagelijkse begeleider te zijn? Dat was In elk geval het idee van een groep economiestudenten aan de School of Information van de University of California in Berkeley.
Zij zijn niet de enigen die zich dat afvragen. Wat hebben Chat-GPT en GPT-4 eigenlijk allemaal gelezen? OpenAI, de onderneming die deze programma’s ontwikkelt, koestert het geheim van de data waarmee de programma’s getraind worden net zo streng als het algoritme. Wat het onderzoek van de studenten er niet makkelijker op maakt, maar ook niet kan tegenhouden. Op de School of Information hebben ze uit de antwoorden van de AI op de vraag naar de teksten waarop ze zich baseert, via een complexe methode een leeslijst met 572 titels opgesteld. Deze lijst is een perfect psychogram van de GPT-AI’s, om niet te zeggen een digitale canon.
Leeslijst
De eerste 20 plaatsen van de lijst worden bezet door klassieke Amerikaanse schoolboeken als Moby Dick, The adventures of Huckleberry Finn en 1984, klassieke literatuur (met liefst 2 titels van Jane Austen en Arthur Conan Doyle) en een paar populaire bestsellers als Fifty Shades of Grey. De zogenaamde wereldliteratuur komt er nauwelijks aan te pas en omvat behalve een paar vertalingen uit Azië en Afrika vooral literatuur in het Engels. (En mocht je je dat afvragen: geen enkel Duits boek).
Daarnaast is er een lijst met de top 50 van boeken die onder het auteursrecht vallen. Dit is een onderwerp apart, omdat het onderzoek daarmee en passant het bewijs levert dat OpenAI en andere AI-ondernemingen in hun trainingsbestanden wel degelijk auteursrechtelijk beschermd materiaal gebruiken. Als een AI correcte antwoorden op vragen over auteursrechtelijk beschermde werken genereert en die zelfs kan imiteren, is dat een indicatie dat deze werken zich in de trainingsdata bevinden. Dit is vooral een juridische kwestie, omdat het in de VS nog maar de vraag is of miljardenondernemingen als OpenAI deze boeken onder de fair use-clausule mag gebruiken en of ze in Europa onder de blanco-toestemming voor het verzamelen van gegevens voor onderzoeksdoeleinden vallen. Deze lijst met meer hedendaagse boeken overlapt de grote lijst voor een belangrijk deel. Maar er staan nog maar weinig moderne klassiekers op als Harper Lee’s To kill a mockingbird, John Steinbecks The grapes of wrath en Irvine Welsh’ Trainspotting. Science fiction en Fantasy zijn daarentegen zwaar oververtegenwoordigd met boeken als Lord of the Rings van J.R.R. Tolkien, The Hunger games van Suzanne Collins, Do Androids Dream of Electric Sheep? van Philip K. Dick, The Hitchhiker’s Guide to the Galaxy van Douglas Adams, Game of Thrones van George R.R. Martin en Dune van Frank Herbert.
‘Dit is de lijst van boeken die op het nachtkastje liggen van elke eenzame, heteroseksuele, witte, mannelijke nerd’
De digitale canon weerspiegelt daarmee exact de smaak van de in Silicon Valley dominante demografische groep. Of zoals tech-journalist Adam Rogers van Business Insider het treffend formuleerde: ‘Dit is de lijst van boeken die op het nachtkastje liggen van elke eenzame, heteroseksuele, witte, mannelijke nerd.’ In Amerika dan, moeten we erbij zeggen. Een testje met Duitse boeken, waarbij we dezelfde methode gebruiken: een invuloefening voor paar instapromans. Die Vermessung der Welt van Daniel Kehlmann herkent GPT-4 in een oogwenk, Italienische Reise van Goethe verwart het met Die Leiden des jungen Werther en Thomas Manns Buddenbrooks met Doktor Faustus. Unterleuten van Juli Zeh, Tschick van Wolfgang Herrndorf en Der Schwarm van Frank Schätzing: forget it.
Kennisdiagrammen
Het onderzoek verklaart niet alleen wat AI leest, maar ook hoe. Het probleem van de trainingsdata van AI-toepassingen gaat veel verder dan een blik in de boekenkast. De datasets waarmee deze machines worden getraind, worden door algoritmes gesorteerd in knowledge graphs, kennisdiagrammen waaruit de AI’s vervolgens hun waarschijnlijkheidsberekeningen afleiden.
Deze werkwijze bestaat allang. Ook de sorteermachines van eenvoudiger AI’s, zoals de algoritmes van sociale media Twitter en Facebook of de aanbevelingen van sites als Netflix en Amazon, combineren de afzonderlijke datapunten die ze verzamelen tot zulke kennisdiagrammen. Zo ontstaat in de computer een digitaal wereldbeeld dat uiteindelijk niet meer is dan een echo van alle ingevoerde data. Mensen kennen de computer echter een objectiviteit toe die is gebaseerd op het geloof dat de wiskunde een op zich onfeilbaar en logisch systeem is. Maar dat geldt niet eens in de algebra. Een neutrale dataset bestaat niet. Maar zelfs de bewering van sommige ontwikkelaars dat AI’s als Diffbot met het gehele internet zijn getraind, zou niet tot een heldere blik op de wereld leiden. Want het internet bestaat voor het grootste deel uit content en data in het Engels en wordt gedomineerd door Amerikaanse content.
‘Een neutrale dataset bestaat niet’
Het onderzoek uit Berkeley bevestigt dat volledig. De methodiek laat zich lezen als een mengeling van complexe data-analyse en invuloefeningen uit het vreemdetalenonderwijs in de laagste klassen van de middelbare school. Het vierkoppige onderzoeksteam noemt dat ‘data-archeologie’ en merkt op dat bij het onderzoeken van systemen met gesloten trainingsdatasets het aantal fouten zo groot is, dat ze voor de wetenschap onbruikbaar zouden zijn. Het team kon niet eens vaststellen of boeken bijvoorbeeld in hun geheel (memorized) of alleen als uittreksels en context (non-memorized) in de data voorkomen. Waarbij je dat van die boeken lezende AI’s sowieso met een flinke korrel zout moet nemen, aangezien de trainingsdatasets in de regel zo gigantisch zijn dat een afzonderlijk boek alleen kan worden verwerkt als het verbonden is met een kennisdiagram. De trainingsdata van GTP-4 hebben vermoedelijk een omvang van 1 petabyte (1PB). Een getal met 15 nullen. Een boek van 300 pagina’s omvat zo’n 800 kB (5 nullen). Dat betekent dat bijvoorbeeld Alice in Wonderland en Harry Potter and the stone of wisdom niet alleen op plaats 1 en 2 van de leeslijst staan omdat Chat-GPT de inhoud ervan heeft geïnternaliseerd, maar omdat deze boeken door de ontelbare fan-sites, kritieken en verwijzingen een zo zware weging hebben gekregen dat ze in zo’n diagram alle andere boeken verdringen.
Datawetenschap
Je moet je ook realiseren dat de leeslijst uit Berkeley niet is opgesteld op de faculteit literatuurwetenschappen, maar door onderzoekers van een instituut dat zich met datawetenschap bezighoudt. En dat hij, zoals bij zo veel van dit soort onderzoek, nog niet eens door de peer review is geweest.
Desondanks blijft hij exemplarisch. Want door dit onderzoek wordt de digitale canon ook in tweede optiek een zichzelf bevestigend systeem. Wat op zijn beurt weer heel goed de geest van machine learning weergeeft, waarbij op een bepaald punt de machine niet meer van data, maar van zichzelf leert.
‘Het zou niet de eerste keer zijn dat de VS een culturele canon voor de hele wereld opstelt’
Omdat de digitale wereld echter allang niet meer alleen technologie, maar ook een cultuur is, zal ze nog veel meer verhalen, waarden en voorkeuren gaan overdragen. Het zou niet de eerste keer zijn dat de VS een culturele canon voor de hele wereld opstelt. De laatste keer gebeurde dat na de Tweede Wereldoorlog, toen de Amerikaanse cultuur toonaangevend was met zijn jazz, films, verhalende literatuur, abstracte expressionisme in de schilderkunst en later met de subculturen van de beatniks, hippies, punkers en hiphoppers.
Als we een heel korte ideologische vergelijking mogen maken: Vlak na de Tweede Wereldoorlog bracht de Amerikaanse cultuur vooral democratische en emancipatorische waarden in een wereld waar de dictaturen van de As-mogendheden nog maar net waren verslagen en de wereldbeschouwingen van de tegenstanders van de VS in de Koude Oorlog als concurrenten werden gezien. We moeten niet per se afwachten of de vrijheidsbegrippen van de libertairen in Silicon Valley het algemene welzijn op de hele wereld zullen bevorderen. Ook al kwam Nick Hornby tot de conclusie dat je ook van mensen die naar Phil Collins luisteren heel goed kunt houden.
Dat de Golfstaten digitale technologieën gebruiken om hun politieke tegenstanders te onderdrukken, is niet nieuw. Maar de opkomst van nieuwe technologieën, zoals kunstmatige intelligentie, biedt autoritaire regimes extra mogelijkheden om het privédomein van burgers binnen te dringen – zonder enige vorm van rechtsgeldigheid.
In zijn boek Digital Authoritarianism in the Middle East schrijft Marc Owen Jones, universitair docent Midden-Oostenstudies aan de Hamad Bin Khalifa-universiteit in Doha (Qatar), dat regimes in het Midden-Oosten digitale technologieën – die in principe zijn bedoeld voor sociale interactie – misbruiken voor toezicht, propaganda en intimidatie. Saoedi-Arabië en de Verenigde Arabische Emiraten (VAE) investeren op grote schaal in nieuwe technologieën voor AI (kunstmatige intelligentie), in navolging van drie andere landen die een slechte reputatie hebben wat betreft mensenrechten en het onderdrukken van de eigen burgers: China, Rusland en Israël.
Digitale repressie door Arabische regeringen, en in het bijzonder door de autoriteiten in de Golfregio, is niet nieuw. Arabische burgers zijn eraan gewend dat er voortdurend informatie over hen wordt ingewonnen door het monitoren van onlineactiviteiten en de beperking van onlinevrijheden. Dat leidt bijvoorbeeld tot de arrestatie en veroordeling van activisten die ‘aanstootgevende tweets’ posten.
Arabische burgers zijn eraan gewend dat er voortdurend informatie over hen wordt ingewonnen
In 2018 beschuldigde de Amerikaanse FBI drie mannen van het hacken van Twitter in opdracht van Saoedi-Arabië, met als doel vertrouwelijke informatie over duizenden gebruikers over te dragen aan de Saoedische autoriteiten. Als gevolg van die hacks werd Abdulrahman al-Sadhan in 2018 in Riyad gearresteerd en veroordeeld tot twintig jaar gevangenisstraf, omdat hij een anoniem account zou hebben gebruikt om het economische beleid van de Saoedische regering te bekritiseren.
Maar de opkomst van technologieën als AI, en toepassingen daarvan die bijvoorbeeld kunnen infiltreren op mobiele telefoons, bieden autoritaire regimes de mogelijkheid van elektronische spionage, die kan variëren van gezichtsherkenning en het monitoren van berichten tot massasurveillance. Van enige vorm van rechtsgeldigheid of toezicht op het gebruik van dergelijke spyware is geen sprake.
Nieuwe wetten
In juni 2022 publiceerde de European Council on Foreign Relations, een Europese denktank, het onderzoeksrapport Iron Net: Digital Repression in the Middle East and North Africa. Daarin wordt gesteld dat Arabische regeringen, na de schok van de Arabische Lente in 2011, nieuwe wetten en beleid hebben geïntroduceerd om onlinegedrag aan banden te leggen, vooral gericht tegen journalisten en oppositieleiders. Volgens het onderzoek spannen autoritaire regeringen zich tot het uiterste in om tegenstanders die anoniem opereren te identificeren, en om hun gebruik van (tele)communicatienetwerken en toegang tot informatie te blokkeren.
De investeringen roepen vragen op over de potentiële gevolgen voor de mensenrechten
Afaf Abrouki, een Tunesische onderzoeker en expert op het gebied van technologie en mensenrechten, zegt in een interview met Mowatin dat de Golflanden in de regio en daarbuiten grootschalig investeren in geavanceerde technologie. Op zichzelf is dat geen probleem, zolang ze het doen om hun economie te diversifiëren. Maar deze landen hebben een slechte staat van dienst op het gebied van de mensenrechten en zijn berucht vanwege de surveillance, desinformatie, manipulatie van sociale media, censuur et cetera waarmee ze hun burgers onderdrukken en hun het zwijgen opleggen. De investeringen roepen dan ook vragen op over de potentiële gevolgen voor de mensenrechten.
Repressieve houding
Het hoofd van het Centrum voor Mensenrechten in de Golfregio, Khaled Ibrahim uit Bahrein, ziet de toename van de investeringen door de Golflanden als een uiting van een repressieve houding. ‘Het is een tirannieke mentaliteit die vijandig staat tegenover de vrijheid van meningsuiting, en die geen geloof hecht aan het gezegde dat diversiteit van meningen rijkdom betekent,’ zegt hij. ‘Het is vooral bedoeld om onlineactivisten en burgers te monitoren en gevangen te zetten vanwege hun mening over de zittende macht die ze op sociale media uiten.’
Volgens James Shears, een Brits onderzoeker en docent politiek, veiligheid en technologie, dragen de landen in de Golf wereldwijd bij ‘aan digitale repressie door een reeks gerichte surveillance-instrumenten te ontwikkelen die het hun mogelijk maakt de inhoud van sociale en andere digitale media te monitoren.’ Volgens hem bieden die instrumenten wetshandhavers en nationale veiligheidsdiensten meer inzicht en informatie over politieke opponenten, dissidenten, journalisten en mensenrechtenactivisten. Hij voegt eraan toe dat de Golfstaten dergelijke investeringen niet alleen als wenselijk beschouwen omdat ze het regime versterken tegen de interne onrust en ontevredenheid waarvan de Arabische Lente een uiting was, maar ook omdat ze in geopolitieke zin voordelen bieden. Zo delen de landen hun ervaringen met digitale repressie met exporteurs van deze technologieën, waarvan China de belangrijkste is. De Golfstaten zeggen weliswaar bereid te zijn om voorwaarden als databescherming en cloudwetgeving op te stellen voor de toepassing van digitale technologieën en AI, maar over het algemeen dienen dergelijke wetten eerder nationale veiligheidsdoeleinden dan dat ze meer bescherming bieden voor persoonlijke privacy.
Deze landen verdoezelen volgens hem ‘hun wijdverbreide schendingen op het gebied van de mensenrechten’
De stap van de Golfstaten om te investeren in de ontwikkeling van kunstmatige intelligentie past ook uitstekend in het streven hun economie minder afhankelijk te maken van olie. Volgens een rapport van adviesbureau PwC kunnen de landen in de Samenwerkingsraad van de Arabische Golfstaten in 2030 ongeveer 23,5 miljard dollar tegemoetzien als hun investeringen in AI blijven groeien. Saoedi-Arabië en de VAE hebben inmiddels strategieën en doelstellingen op het gebied van AI geformuleerd, maar er zijn nog veel tekortkomingen die moeten worden aangepakt.
Khaled Ibrahim zegt dat landen in de Golf – en dan vooral de VAE en Saoedi-Arabië – wereldwijd ‘het meest uitgeven aan investeringen in technologieën als AI en gezichtsherkenning, die gericht zijn op het identificeren van ongewenste berichten en oppositieactiviteiten’. Deze landen verdoezelen volgens hem ‘hun wijdverbreide schendingen op het gebied van de mensenrechten’. James Shears bevestigt dat het gebruik van AI door de Golflanden vooral de nationale veiligheid betreft. Technisch gezien hangt de doeltreffendheid ervan volgens hem grotendeels af van verdere verfijning van opsporingsmethodes, bijvoorbeeld door met behulp van machinelearning stukjes informatie te koppelen, zodat er voorspellingen kunnen worden gedaan over het gedrag van individuen.
Controle en repressie
Ook het Arab Center Washington D.C. bevestigt dat de autoritaire regimes gebruikmaken van innovatieve methoden en digitale instrumenten voor controle en repressie. Veel van die technieken zijn afkomstig uit landen die vooroplopen met ‘digitale tirannie’, zoals China en Rusland, en van landen die investeren op het gebied van surveillance en bevolkingscontrole, zoals Israël, aldus het centrum. De Arabische landen zien China als voorbeeld, dat werkt met projecten zoals SkyNET en Sharp Eyes. China is bezig verschillende technologieën en zeer geavanceerde AI-instrumenten te integreren om enorme hoeveelheden gegevens te verzamelen en te analyseren. Het gaat om data afkomstig van videosurveillance, registratie van fysieke bewegingen, verzamelingen van beelden, databases met gezichtsherkenning en vingerafdrukken, telefoonverkeer, medische en financiële gegevens, onlinegedrag en gegevens uit het socialekredietsysteem.
Veel van die technieken zijn afkomstig uit landen die vooroplopen met ‘digitale tirannie’, zoals China en Rusland
Een onderzoeker van het Britse Royal Institute of International Affairs wijst ook op de gegevens die smart cities verzamelen over energieverbruik, verkeer en voetgangersverkeer via bewakingscamera’s en mobieletelefonienetwerken. Daarover zegt Shears: ‘Het combineren van deze gegevens biedt landen de mogelijkheid om individuen in de gaten te houden op een manier die voorheen onmogelijk was.’
Surveillance op zo’n grote schaal vereist ruime financiële middelen en een gecentraliseerd bestuur. In het Midden-Oosten zijn de VAE vooralsnog het meest enthousiast in de toepassing ervan. Het toch al alomtegenwoordige autoritaire bewind in de Emiraten maakt gebruik van smart city-technologie en van het zogenoemde Police without Policemen-programma, dat berust op geavanceerde digitale surveillancetechnieken.
Privécommunicatie
In het onderzoek van het Arab Center Washington D.C. wordt opgemerkt dat China zijn autoritaire technologische instrumenten al via de ‘Digitale Zijderoute’ heeft geëxporteerd naar zeker achttien landen, waaronder enkele in het Midden-Oosten: Egypte, Marokko, Qatar, Saoedi-Arabië en de VAE. Maar sinds het sluiten van de Abraham-akkoorden tussen de VAE en Israël is ook de spionage-industrie van Israël belangrijk voor de Golfstaten. Dat betreft vooral technologie die is gericht op het binnendringen van persoonlijke apparaten en het onderscheppen van privécommunicatie.
In eigen land maakt Israël gebruik van geavanceerde surveillance van Palestijnen en verzamelt het informatie door in te breken op vaste lijnen en smartphones en sms-berichten te onderscheppen. Pegasus, het Israëlische programma dat is gespecialiseerd in monitoring, tracking en spionage, en ook andere Israëlische spywaretechnologie wordt voornamelijk aangeschaft om journalisten en mensenrechtenactivisten in de gaten te houden. Het opvallendste voorbeeld daarvan was het hacken door Saoedi-Arabië en de Emiraten van de communicatiekanalen die Jamal Khashoggi gebruikte, voordat hij in het Saoedische consulaat in Istanboel werd vermoord.
Wat betreft digitale onderdrukking staat het Midden-Oosten er slecht voor
Wat betreft digitale onderdrukking staat het Midden-Oosten er slecht voor. De Digital Repression Index rangschikt zo’n honderdtachtig landen naar gebruik van digitale technologie voor politieke repressie. Vijf van de twintig slechtst scorende landen bevinden zich in het Midden-Oosten: de VAE, Saoedi-Arabië, Iran, Syrië en Jemen. En volgens de Freedom of the Net-index 2021, gepubliceerd door de Amerikaanse ngo Freedom House, behoren zeven landen in het Midden-Oosten en Noord-Afrika tot de twintig slechtst presterende landen op het gebied van internetvrijheid: Saoedi-Arabië, Iran, de VAE, Egypte, Bahrein, Soedan en Turkije.
Volgens de Japanse filosoof Hiroshi Toya heeft Japan ‘een rotsvast vertrouwen’ in AI. In een interview met het Japanse dagblad Asahi Shimbun benadrukt hij dat we onze eigen verantwoordelijkheid in het oog moeten houden en ons eigen verstand moeten blijven gebruiken.
Op dit moment is de wereld verdeeld over de regulering van generatieve AI-systemen als ChatGPT. Hoewel de G7 afgelopen mei tijdens de top in Hiroshima pleitte voor ‘een betrouwbare AI’, voelden sommige landen, zoals Japan, er minder voor om deze nieuwe technologie aan allerlei regels te onderwerpen. ‘De Japanse maatschappij heeft een groot vertrouwen in AI,’ aldus een bezorgde Hiroshi Toya, filosoof en hoogleraar aan de Kansai University for International Studies. Hij maant bovendien tot voorzichtigheid: ‘Als we onze aandacht uitsluitend richten op ChatGPT, verliezen we de fundamentele veranderingen uit het oog die het gevolg zijn van het binnendringen van AI in onze maatschappij.’ Op welke veranderingen doelt hij dan?
ChatGPT wint snel terrein. Wat zijn volgens u de pro’s en contra’s ervan?
‘Zeggen dat ChatGPT alleen maar slecht is zou een simplistische constatering zijn die vooralsnog nergens op is gebaseerd. Het is in feite moeilijk te voorspellen of de app algemene ingang zal vinden, zoals Amazon of Gmail. Voorlopig zie ik ChatGPT vooral als een speeltje. Het probleem is volgens mij niet het programma zelf, maar wat wij, de maatschappij, ervan verwachten.
Wij mensen zijn behept met een extreem sterk verlangen om overal zo snel mogelijk antwoord op te krijgen. In die mate zelfs dat sommigen, volgens artikelen die ik heb gelezen, ChatGPT verwijten dat het programma er te lang over doet om een vraag te beantwoorden, terwijl het maar een kwestie van enkele minuten is. Dat je niet eens een paar minuten kunt wachten gaat toch alle perken te buiten? Onze maatschappij is geobsedeerd door onmiddellijke resultaten, zonder de tijd te nemen voor enige reflectie. Als filosoof zit ik regelmatig in gedachten verzonken met mijn armen over elkaar achter mijn bureau, maar dat geldt vandaag de dag als “inefficiënt”. Dingen goed en langzaam overdenken is steeds minder in trek.’
‘Ik denk dat het nodig is om altijd afstand te kunnen blijven nemen van AI en haar systemen’
Wat voor kwalijke gevolgen kan deze ontwikkeling hebben?
‘Als niemand er momenteel last van heeft, kun je waarschijnlijk denken dat het niet erg is. Maar als op een dag de door AI gemodelleerde ‘normaliteit’ sneuvelt, bijvoorbeeld door een ramp of een oorlog, worden we waarschijnlijk geconfronteerd met een periode van chaos. Dan zullen we zelf beslissingen moeten nemen om problemen op te lossen: zullen we tegen die tijd nog wel over een denkvermogen beschikken dat ons in staat stelt de beste keuzes te maken? In het verarmde en uitgeputte Duitsland van na de Eerste Wereldoorlog konden de mensen niet langer zelfstandig denken en lieten ze zich inpalmen door de nazi-ideologie, waardoor ze medeplichtig werden aan de Holocaust. Zullen we in het geval van een crisis in staat zijn te zeggen dat het oordeel van AI onjuist is? Ik denk dat het nodig is om altijd afstand te kunnen blijven nemen van AI en haar systemen. Als we onze aandacht uitsluitend op ChatGPT richten, verliezen we naar mijn mening de fundamentele veranderingen uit het oog die het gevolg zijn van het binnendringen van AI in onze maatschappij.’
Zijn de veranderingen die door ChatGPT zelf in gang worden gezet dan niet zo belangrijk?
‘Ten aanzien van maatschappelijke kwesties probeert ChatGPT een groot scala aan meningen te dekken. Stel je het programma bijvoorbeeld een vraag over de gelijkheid tussen vrouwen en mannen, dan zal het alleen de verschillende gezichtspunten op een rij zetten zonder er enige conclusie aan te verbinden. Ik heb de indruk dat het programma meer vragen oproept dan antwoorden geeft. In plaats van problemen op te lossen maakt het keuzes alleen maar moeilijker. Het is zonder twijfel in staat zinnen te produceren die menselijk lijken, maar die maken het ons eerder moeilijker dan makkelijker om beslissingen te nemen en keuzes te maken. Aan genderkwesties kleeft een groot aantal verschillende aspecten, en elk standpunt dat je erover inneemt kan relatief gevoelig zijn. We moeten de verantwoordelijkheid voor onze keuzes nemen.’
Zijn de antwoorden die AI geeft niet op zichzelf problematisch?
‘Voordat we voor een bepaald antwoord kiezen hebben we natuurlijk de vraag al geformuleerd. Als we AI de voorwaarden van de discussie laten bepalen, onttrekken we ons aan onze verantwoordelijkheid in dezen. Het is gevaarlijk om te geloven dat ChatGPT alle aspecten van een kwestie in overweging neemt. Ik vrees dat we steeds minder goed in staat zullen zijn om andere keuzes en gezichtspunten onder ogen te zien dan die welke door AI worden voorgesteld. ChatGPT geeft antwoorden die zijn gebaseerd op bestaande internetgegevens, zonder de juistheid daarvan ter discussie te stellen.’
Baart het gebruik van ChatGPT zorgen op ethisch gebied?
‘In de huidige situatie niet. In de toekomst zal het misschien voor problemen zorgen op politiek en juridisch gebied. Sommige parlementsleden hebben al ChatGPT gebruikt voor debatten, maar dat betrof tot dusver alleen de teksten die ze voorlazen. Wanneer je bijvoorbeeld de verdeling van de socialezekerheidsgelden aan AI zou toevertrouwen, zou dat discriminatie in de hand kunnen werken, zoals een verlaging van de uitkeringen aan senioren omdat hun minder levensjaren resten. Zolang debatten en beslissingen op politiek en juridisch gebied onder menselijke verantwoordelijkheid blijven vallen en het systeem niet instort, geloof ik niet dat we bang hoeven te zijn voor een ernstige ethische crisis.’
Het belangrijkst blijft het om te weten of de gebruikers de beslissingen die door AI worden ingegeven als hun eigen beslissingen beschouwen
Sommige mensen zullen AI misschien gebruiken zonder daarvoor uit te komen.
‘Inderdaad. Het belangrijkst blijft het om te weten of de gebruikers de beslissingen die door AI worden ingegeven als hun eigen beslissingen beschouwen en de verantwoordelijkheid aanvaarden voor de acties die ze ondernemen. Het zou onverantwoordelijk en funest zijn om te zeggen: “We kunnen er niets aan doen want het is een suggestie van AI”, zonder dat we stilstaan bij onze eigen verantwoordelijkheid.
Wat Japan betreft, dat is een land dat een rotsvast vertrouwen heeft in AI. In westerse fictie met AI als thema wordt vaak de nadruk gelegd op de dreiging die ervan uitgaat, en op de menselijke verantwoordelijkheid voor het gebruik ervan. In Japan, waar de invoering van AI redelijk soepel verloopt, wordt daar niet vaak bij stilgestaan. Japanners lijken deze nieuwe ontwikkeling lijdzaam over zich heen te laten komen. “Als we er toch niets tegen kunnen doen, kunnen we er maar beter in meegaan,” zeggen ze waarschijnlijk bij zichzelf. Het is van wezenlijk belang om de kwestie te relativeren, om te begrijpen wat er op mondiaal niveau wordt bediscussieerd, en niet in hysterische speculaties te verzinken die de zaak alleen maar erger maken.’
Dankzij de geavanceerde apparatuur van onder andere het Veldhovense techbedrijf ASML worden er al decennialang steeds kleinere en fijnere chips gemaakt. Maar niet voor lang meer, waarschuwen experts. ‘We lopen nu tegen de fysieke grenzen aan. Straks zitten we op het niveau van een atoom.’
In een ‘cleanroom’ op het uitgestrekte terrein van ASML in Veldhoven ademen tientallen mannen en vrouwen in isolatiepakken lucht in die nog tienduizend keer zuiverder is dan die in een operatiekamer. Ze werken er aan het eerste prototype van het nieuwste product van deze apparatenmaker voor chipfabrikanten: de nieuwste generatie fotolithografiemachines op basis van extreem ultraviolet licht (EUV). Die produceert straks halfgeleiders door transistors op een schijfje silicium te ‘printen’ die bijna net zo klein zijn als een menselijk chromosoom. Dit eerste EUV-apparaat gaat dit jaar voor meer dan 350 miljoen euro naar Intel.
Aan de lithografiemachines van ASML danken we het bestaan van niet meer weg te denken apparaten zoals de iPhone en de geavanceerde chips van Nvidia waar ChatGPT op draait. Er zijn maar drie bedrijven ter wereld (Intel, Samsung en TSMC) die het soort processoren kunnen maken die voor zulke apparaten nodig zijn. En alle drie zijn ze daarvoor afhankelijk van de geavanceerde apparatuur van ASML.
Dankzij de innovaties van ASML kunnen transistors steeds kleiner worden, en de chips als gevolg daarvan krachtiger. Het hoge tempo van de technologische vooruitgang van de afgelopen vijftig jaar hebben we te danken aan de exponentiële groei van het aantal transistors op halfgeleiders. Die toename werd in 1965 al voorspeld door een van de oprichters van Intel, Gordon Moore: hij beweerde destijds dat het aantal transistors op een chip ongeveer elk jaar zou verdubbelen. Die voorspelling, die hij later bijstelde naar eens in de twee jaar, staat bekend als de wet van Moore.
De wet van Moore
Intel was grotendeels zelf verantwoordelijk voor die ontwikkeling, met zijn onophoudelijke innovaties op het vlak van ontwerp en productie van halfgeleiders. Maar dat de wet van Moore nog steeds opgaat, wordt tegenwoordig meestal op het conto van ASML geschreven. Het is aan de machines van het Nederlandse bedrijf te danken dat chips ter grootte van een vingernagel nu wel vijftig miljard transistors kunnen bevatten. ‘De drijvende kracht achter de wet van Moore? Dat is in feite lithografie,’ zegt Jamie Mills O’Brien van Abrdn, een van de vijftig grootste investeerders in ASML.
Die verschuiving wordt weerspiegeld in de beurswaarde van de twee bedrijven. Het aandeel ASML, dat aan de beurs genoteerd staat in Amsterdam en New York, is nu ongeveer twee keer zoveel waard als dat van Intel. Bij de belangrijkste trends van de laatste tien jaar, smartphones en kunstmatige intelligentie (AI), viste Intel goeddeels achter het net, doordat de Amerikaanse chippionier het tempo niet kon bijbenen van de Taiwanese chipmaker TSMC, een van de eerste gebruikers van de EUV-technologie van ASML.
Maar chipproducenten staan nu voor een enorme uitdaging. Ze liggen inmiddels achter op het door de wet van Moore voorspelde schema: het tempo van verdubbeling ligt tegenwoordig dichter bij eens in de drie jaar. Na de massaproductie van de nieuwste 3-nanometerchips voor de iPhones van dit jaar wordt de volgende stap een volgens sommigen nog grotere sprong voorwaarts naar 2 nanometer in 2025. ‘Maar kom je eenmaal op 1,5 of misschien 1 nanometer, dan is het definitief afgelopen met de wet van Moore,’ zegt Ben Bajarin, technologieanalist bij Creative Strategies in Silicon Valley. ‘Dan houdt het gewoon op.’
‘Elke twee of drie jaar een nieuwe generatie chips: ook de complexiteit neemt exponentieel toe
Voorspellingen over het einde van de wet van Moore worden al jarenlang gelogenstraft door chipontwikkelaars. Maar nu begint het aantal transistors dat op een siliciumschijfje wordt gepropt de grens te naderen van wat fysiek nog mogelijk is. Sommigen vrezen dat het aantal productiefouten daardoor toeneemt. De ontwikkelingskosten stijgen in ieder geval wel.
‘De economische grondslag onder de wet van Moore valt weg,’ aldus Bajarin. Chipontwerpers zijn de laatste jaren daarom druk op zoek naar andere manieren om het tempo van de toenemende rekenkracht vast te houden. Bijvoorbeeld door nieuwe materialen en ontwerptechnieken uit te proberen, en door de AI die bestaat bij de gratie van de nieuwste generatie chips in te zetten voor het ontwerpen van nieuwe chips. Wat op het spel staat, is niet alleen het vasthouden van het innovatietempo dat al decennialang ten grondslag ligt aan het succes van de technologiesector, en daarmee van de voortdurende economische groei en radicale verbeteringen in ons dagelijks leven. Ook allerlei nieuwe ontwikkelingen, van kunstmatige intelligentie en het ‘metaversum’ tot de lang beloofde innovaties op het vlak van schone energie en autonoom vervoer, kunnen hun belofte alleen waarmaken als chips steeds krachtiger en efficiënter worden.
‘Ooit zal er een einde aan moeten komen,’ waarschuwde de in maart overleden Moore in 2015, bij de vijftigste verjaardag van zijn oorspronkelijke artikel. ‘Zo’n exponentiële ontwikkeling kan niet eindeloos voortduren.’
Beurswaarde
ASML houdt de wet van Moore nog in leven, maar dat vergt miljarden aan investeringen en onvoorstelbare staaltjes technisch en natuurkundig vernuft. De voormalige Philips-dochter begon haar bestaan in de jaren tachtig in houten barakken op het parkeerterrein van het moederbedrijf in Eindhoven. Tegenwoordig is het met een beurswaarde van zo’n 275 miljard euro het grootste technologiebedrijf van Europa. Vanuit de hoofdvestiging in Veldhoven, op slechts een paar kilometer afstand van waar die oude noodgebouwen stonden, produceert ASML nu machines die wel vijftigduizend keer per seconde minuscule druppeltjes gesmolten tin kunnen verdampen, om licht met een golflengte van 13,5 nanometer te produceren. Zo’n bundel EUV-licht wordt dan in een vacuümruimte weerkaatst via een reeks spiegels, versmald en scherpgesteld op een siliciumschijfje, een zogenaamde wafer.
‘De wet van Moore is een economische wet: elke twee tot drie jaar kun je bij gelijkblijvende kosten de prestaties verdubbelen,’ zegt ASML-topman Peter Wennink. Maar, zegt hij erbij, ‘er is nog een ander aspect van de wet van Moore waar niemand het over heeft: de wet van de complexiteit. Elke twee of drie jaar een nieuwe generatie chips, dat wordt er niet makkelijker op. Ook de complexiteit neemt dus exponentieel toe.’
Enorme investeringen
De nieuwe High-NA-machine is de laatste vrucht van ASML’s enorme investeringen in onderzoek en ontwikkeling – die in 2022 met 30 procent stegen tot 3,3 miljard euro. High-NA slaat op de hogere ‘numerieke apertuur’, ofwel het aantal hoeken waaronder het licht kan worden omgebogen en verstuurd: hoe hoger dat is, hoe kleiner de transistorpatronen die op een wafer kunnen worden geprint.
Voor zijn huidige EUV-machines heeft ASML maar vijf potentiële afnemers: TSMC in Taiwan, Samsung en SK Hynix in Zuid-Korea en Intel en Micron in de VS. Alle vijf hebben ze het nieuwste model besteld. Met zijn monopolie op EUV-machines en zijn rol als grootste producent van DUV-machines (diep-ultraviolet, onmisbaar voor de productie van grotere en breder toegepaste chips in bijvoorbeeld auto’s en huishoudelijke apparaten) is ASML niet alleen populair in Silicon Valley, maar ook bij beleggers. De winstcijfers van het bedrijf zijn in de afgelopen vijf jaar meer dan verdubbeld en de aandelenkoers is in diezelfde periode navenant gestegen met 300 procent.
Momenteel is het bedrijf een speelbal in de felle geopolitieke strijd tussen de VS en China en is er sprake van een dip in de vraag naar chips, doordat de hausse tijdens de pandemie heeft geresulteerd in een voorraadoverschot. Toch zet ASML in op een verdubbeling van de omvang van de markt voor halfgeleiders in de komende jaren: van 600 miljard dollar nu naar 1,3 miljard in 2030. Het bedrijf heeft een orderportefeuille van 40 miljard dollar, wat erop wijst dat er nog steeds vraag naar zijn producten is, en is van plan tot 2025 meer dan 4 miljard euro te investeren in research & development, om zijn innovatietempo vast te houden.
Als dit alles gevaar loopt door het dreigende einde van de wet van Moore, dan is dat aan Wennink niet te merken. Hij maakt zich daar ‘helemaal geen zorgen’ over, zegt hij, maar geeft toe dat de verwachting van voortdurende vooruitgang de ‘grootste concurrent’ voor zijn bedrijf is. ‘Wij leveren de duurste machine in het productieproces,’ zegt hij. ‘Als wij onze klanten niet in staat stellen de kosten te verlagen of de waarde te verhogen, zullen ze alternatieven zoeken.’
Een werknemer bekijkt een chip die nog met het menselijk oog te zien is.
Chipontwerpers anticiperen daar al op. ‘Er zijn allerlei gereedschappen om meer transistors op een chip te kunnen proppen,’ zegt Nigel Toon, hoofd van de Britse start-up Graphcore, die chips maakt voor AI-toepassingen. ‘De wet van Moore loopt misschien op zijn eind, maar daarmee komt er nog geen einde aan de innovatie,’ zegt Hassan Khan, die aan de Carnegie Mellon-universiteit leiding geeft aan het onderzoek naar halfgeleiders en toeleveringsketens voor het Amerikaanse National Network for Critical Technology Assessment. ‘Technologische vooruitgang wordt vaak gelijkgesteld aan de wet van Moore, alsof innovatie alleen mogelijk is door steeds goedkopere transistors. Maar de mens is slim in het opsporen van knelpunten en het vinden van manieren om die te omzeilen.’
Dankzij het type processor waarmee Intel groot is geworden, konden er decennialang apparaten worden ontworpen die een soort Zwitsers zakmes waren, alleskunners zoals de pc en de smartphone. Maar ‘de verwevenheid van hardware en software is weer in opkomst,’ zegt Ondrej Burkacky, die mede leiding geeft aan de semigeleiderdivisie van McKinsey. Het bekendste voorbeeld daarvan is misschien wel de iPhone. De mate waarin die zich altijd weet te onderscheiden van smartphones die op Android draaien, berust voor een belangrijk deel op chips die speciaal voor de iPhone zijn ontworpen. Apple kan specifieke softwarefuncties voor zijn iPhone ontwikkelen in samenwerking met zijn eigen chipontwerpers, een team dat inmiddels al duizenden mensen telt.
Voor fabrikanten van Android-telefoons is dat lastiger, want het besturingssysteem van Google moet duizenden verschillende telefoons ondersteunen, van eenvoudige modelletjes tot Samsungs nieuwste paradepaardje van meer dan 1000 dollar. De algemene standaardchips van de Britse chipontwerper Arm worden door Apple speciaal toegesneden op betere prestaties of een langere batterijduur in de iPhone. Apple is daar zo goed in geworden dat het in 2020 de Intel-chips in zijn Macs kon verruilen voor een eigen chip op basis van het Arm-model.
Hogere prestaties
Omdat softwareontwerpers steeds hogere prestaties voor bepaalde taken verlangen, gaan sommige bedrijven nog verder in het herzien van de ‘architectuur’ van de chip, de fundamentele wijze waarop processoren zijn ontworpen en opgebouwd. Een bedrijf als Graphcore kan ‘met een schone lei beginnen,’ zegt Toon. ‘Je moet beter nadenken over de vraag wat de geschikte architectuur is voor een specifieke applicatie.’
Nvidia, het grootste halfgeleiderbedrijf ter wereld, met een beurswaarde die onlangs de 1 biljoen dollar aantikte, deed eerst jarenlang ervaring op met grafische kaarten voor nichemarkten van gamers en wetenschappers. Het begon pas echt goud geld te verdienen toen zijn grafische processoren onmisbaar bleken voor elk bedrijf dat AI ontwikkelt. Zowel voor AI als voor het genereren van computerbeelden is de door Nvidia toegepaste techniek voor ‘parallelle verwerking’ uitermate geschikt: daarbij kunnen meerdere repetitieve taken – zoals het weergeven van veelhoeken of het uitvoeren van algoritmes – tegelijkertijd worden verricht.
Onmogelijke problemen
In de eerste dertig jaar van zijn bestaan was Nvidia volgens topman en medeoprichter Jensen Huang ‘het bedrijf dat je belde voor het oplossen van haast onmogelijke problemen’. Het jammere was alleen dat het daarmee nichemarkten bediende die ‘allemaal piepklein waren’, zoals die van de computationele biologie. ‘Ons bedrijf werd wel getypeerd met de slogan: oplossingen voor de problemen die geen geld opleveren,’ zegt hij. ‘En toen kwam er ineens een eind aan de wet van Moore. Nu zijn wij hét computerbedrijf dat je nodig hebt voor groei.’
Maar omdat innovaties op chipgebied nu vaak specifiekere toepassingen hebben, worden doorbraken strenger geheim gehouden en zijn ze minder snel geschikt voor brede markttoepassingen. ‘In de jaren negentig en de eerste jaren van deze eeuw waren de kosten per transistor en de mogelijkheden om complexere chips te bouwen zo’n beetje voor de hele sector gelijk,’ zegt Khan.
Tegenwoordig ‘is rekenkracht minder op algemeen gebruik toegesneden. Als ik chips optimaliseer voor AI, kan dat GPT efficiënter of krachtiger maken, maar heeft het misschien geen effect op de rest van de economie.’
Een ander belangrijk terrein van innovatie zijn chips in de vorm van ‘pakketjes’. In plaats van elk onderdeel op een en dezelfde wafer te printen, zodat je een zogenaamd ‘system on a chip’ krijgt, prijzen halfgeleiderbedrijven nu de mogelijkheden aan van ‘chiplets’, kleinere bouwstenen die met elkaar gecombineerd kunnen worden tot een groter geheel. Dat geeft meer flexibiliteit bij het ontwerp en de inkoop van onderdelen. Intel noemt chiplets ‘de manier om de wet van Moore in het komende decennium en daarna in stand te houden’. Het riep vorig jaar een consortium bijeen van chipmakers en ontwerpers, waaronder TSMC, Samsung, Arm en Qualcomm, om standaarden op te stellen voor de bouw van deze lego-achtige processoren.
De truc
Volgens Richard Grisenthwaite, hoofd architectuur bij chipontwerper Arm, is een van de voordelen van chiplets ten opzichte van de ‘monolithische’ traditionele chips dat bedrijven daarin complexe en dure processoren kunnen combineren met oudere en goedkopere. De truc, waarschuwt hij, is om dan met die oudere en goedkope onderdelen meer te besparen dan je kwijt bent aan de extra kosten van het combineren van componenten.
Maar nieuwe ideeën leiden ook weer tot nieuwe problemen. Een grote uitdaging bij veel van deze innovaties is volgens Burkacky van McKinsey dat ze vaak grotere chips opleveren, wat dan weer leidt tot een groter oppervlak dat foutjes kan bevatten. ‘Een defect is meestal een onzuiverheid, een deeltje uit de lucht of uit het chemische proces dat op het oppervlak valt en een chip onbruikbaar kan maken,’ zegt hij. ‘Hoe groter de chip, hoe groter die kans.’
‘We lopen nu tegen de fysieke grenzen aan. Straks zitten we op het niveau van een atoom’
Dat kan fataal zijn voor de productieopbrengst van halfgeleiderfabrikanten: die kan volgens Burkacky zomaar dalen tot 40 of 50 procent, waardoor een toch al kostbaar proces nog moeilijker economisch rendabel te maken wordt. Grotere chips met meer rekenkracht verbruiken ook meer stroom en genereren in een datacentrum zo veel hitte dat het radicaal nieuwe en energie slurpende koelsystemen zoals dompelkoeling vergt om een optimale prestatie te garanderen.
Aan het andere eind van het spectrum kan bij kleinere chips volgens sommige onderzoekers de betrouwbaarheid weer in het geding zijn. In 2021 publiceerde een team van Google het artikel ‘Cores that don’t count’ (‘processorkernen die niet meetellen’). Het was de technici in datacentra namelijk opgevallen dat sommige chips diep in de enorme datacentra ‘onvoorspelbaar’ gedrag vertoonden. ‘Naarmate de fabricage [van chips] naar steeds kleinere afmetingen tendeert, zien we soms rekenfouten opduiken die in de productietests niet naar voren kwamen’, schreef een team Google-ingenieurs onder leiding van Peter Hochschild. ‘Erger nog is dat dit vaak “stille” fouten zijn: het enige symptoom is een foutieve berekening.’ Hochschild concludeert dat ‘de diepere oorzaak’ gelegen is in ‘de steeds kleinere afmetingen’, waarbij de grenzen van het haalbare worden genaderd, in combinatie met de ‘immer groeiende complexiteit van de architectuur’.
Sprong voorwaarts
Instandhouding van de wet van Moore ‘was tot nu toe een uitvoeringsuitdaging’, zegt Burkacky. ‘Ik wil daar niets aan afdoen, het was een razend lastige klus, maar we lopen nu tegen de fysieke grenzen aan. Straks zitten we op het niveau van een atoom. Dan is het volgens de huidige natuurkundige inzichten wel einde verhaal.’ Ooit kunnen kwantumcomputers misschien de lang beloofde sprong voorwaarts in rekenkracht maken die vergelijkbaar zal zijn met de vooruitgang op basis van silicium sinds de jaren zestig. Maar zelfs de meest optimistische pleitbezorgers daarvan geven toe dat het waarschijnlijk nog meer dan tien jaar duurt voordat kwantumcomputers geschikt zijn voor alledaagse praktische doeleinden.
Ondertussen is Toon optimistisch dat chips zoals die van Graphcore tot nieuwe vooruitgang kunnen leiden. ‘Ik denk dat we computers gaan bouwen en AI-types gaan ontwerpen die zo krachtig zijn dat we daardoor de werking van moleculen zullen doorgronden, en dan gaan we met behulp van die AI-computers moleculaire computers bouwen,’ zegt hij. ‘Dat hele idee van de singulariteit [het moment dat AI de mens voorbijstreeft in intelligentie] is gelul, maar de gedachte dat je AI kunt gebruiken om de computertechniek verder te brengen, is heel praktisch.’
Grote kranten hebben de software aangeboden gekregen
Google is bezig met de ontwikkeling van een AI-tool die zelf nieuwsverhalen kan schrijven. Dat meldt The New York Times. De krant heeft de technologie aangeboden gekregen door Google om uit te proberen, net als The Washington Post en The Wall Street Journal. Journalisten bij de kranten reageren verdeeld op de technologie.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
De tool zou in staat zijn om verschillende details, ontwikkelingen en achtergronden om te zetten in een goedlopend, compleet nieuwsverhaal. Volgens Google moet de tool dienen als assistent van journalisten, maar enkele leidinggevenden die de pitch van Google ontvingen zouden de ontwikkeling als ‘verontrustend’ hebben ervaren.
Binnen de creatieve sector en media bestaan al langer zorgen over generatieve AI, die in staat is zelf creatieve producten als video, audio en tekst te genereren. Zij dringen al langer aan op duidelijke afspraken over het gebruik van AI en hoe creatieve beroepen ertegen beschermd kunnen worden. Google zegt dat het niet de bedoeling is dat de AI-tool journalisten gaat vervangen.
Op 14 juni nam het Europees Parlement de AI Act aan, een wet die ontworpen is om kunstmatige intelligentie te reguleren en burgers te beschermen tegen de negatieve effecten. Is regulering noodzakelijk, of een rem op technologische vooruitgang en de economie?
Ja: ‘De wet komt laat, maar nog niet te laat’
Laten we ons geen illusies maken: op de belangrijkste gebieden van digitale technologie is Europa het speelterrein geworden van grote Amerikaanse concerns. Europa, dat veel te traag was om te begrijpen wat er gebeurde, is achterop geraakt. De Algemene Verordening Gegevensbescherming en andere maatregelen kwamen te laat. Om nog maar te zwijgen van het feit dat de techreuzen, die zich bewust zijn van hun macht, zich niet laten imponeren.
De volgende golf, die allang in de maak is, is nog krachtiger: kunstmatige intelligentie (AI). Wie niet onder een steen heeft gelezen, zal zich hebben gerealiseerd dat er een revolutie aan de gang is, met de adembenemende informatie op ChatGPT of beeldgeneratoren zoals Stable Diffusion. De wetgeving over kunstmatige intelligentie, of AI Act, die op woensdag 14 juni door het Europees Parlement is aangenomen, moet voorkomen dat Europa opnieuw achteropraakt en tegelijkertijd de Europese burgers beschermen tegen de negatieve gevolgen van deze technologieën. Maar kan AI echt worden gereguleerd? Is het niet al te laat?
Kunstmatige intelligentie is vorig jaar niet met een vingerknip geboren: het is de vrucht van een lange draagtijd. Begin jaren 2000 ging het in een hogere versnelling, toen computers die snel genoeg waren om bergen gegevens te verwerken tegen betaalbare prijzen konden worden geproduceerd. Sindsdien hebben deze technologieën hun weg gevonden naar ons dagelijks leven: bedrijven gebruiken ze om kandidaten te selecteren; Alexa, Siri en andere assistenten verwachten van ons dat we hen vertellen wat we willen, enzovoort. Ook hier wordt de markt gedomineerd door de grote Amerikaanse techreuzen.
Maar AI staat nog in de kinderschoenen. Het houdt de belofte in van oneindige mogelijkheden, maar ook van gevaren die op dit moment heel moeilijk in te schatten zijn. Het is dus nog niet te vroeg, maar ook nog niet helemaal te laat, om AI te reguleren – merk op dat de Europese wet de eerste ter wereld is waarmee iets dergelijks wordt geprobeerd.
Gezondheidsgegevens moeten anders worden behandeld dan minder persoonlijke gegevens
Zoals alle technieken die door de mens zijn uitgevonden, is kunstmatige intelligentie niet neutraal en kan het ten goede of ten kwade worden gebruikt. Daarom moeten we een wettelijk kader ontwikkelen dat misbruik voorkomt, zonder het onderzoek en vooral de marketing af te remmen. Al te restrictieve regels zouden Europese bedrijven alleen maar benadelen ten opzichte van hun Amerikaanse of Chinese concurrenten. Daarom moeten we duidelijke regels opstellen voor de toegang tot gegevens, zonder te streng te zijn.
Niet alle gegevens hoeven op dezelfde manier beschermd te worden. Gezondheidsgegevens moeten bijvoorbeeld anders worden behandeld dan minder persoonlijke gegevens. In twijfelgevallen kan een hoge mate van anonimisering het mogelijk maken om informatie te verzamelen zonder de privacy te schenden. De stem van de meerderheid van de Europarlementariërs tegen onder andere automatische gezichtsherkenningssystemen positioneert Europa duidelijk ten opzichte van repressieve staten zoals China, dat gezichtsherkenning al lange tijd gebruikt om zijn burgers in de gaten te houden.
Aan de andere kant zal het dwingen van bedrijven die AI-gebaseerde systemen ontwikkelen om een solide risicobeheer op te zetten kleine bedrijven schaden, terwijl de grote techconcerns geen moeite hebben om zich de diensten van legers advocaten en dataspecialisten te veroorloven. Een dergelijke maatregel kan contraproductief blijken en de hegemonie van de grote concerns versterken.
Een bijzonder gevaar is dat van systemen die op een (gedeeltelijk) geautomatiseerde manier valse informatie kunnen produceren en verspreiden. Deze systemen zouden de verdeeldheid die al bestaat binnen onze samenlevingen kunnen vergroten. Bovendien zouden ze in combinatie met sociale media, met hun neiging om informatiezeepbellen te creëren, een explosieve cocktail vormen.
De EU werkt uiteraard als vanouds: traag. Eerst moesten de Commissie, de lidstaten en het Parlement werken aan de tekst van de wet. Nu de wet is aangenomen, begint er een overgangsperiode die waarschijnlijk tot 2026 duurt, waarna de nieuwe regels definitief van kracht worden. Sommigen rekenen op de goede wil van de industrie om in de tussentijd inspanningen te leveren, maar helaas is dit slechts wishful thinking. Er staan gewoon te veel macht en te veel miljarden op het spel.
Nee: ‘De gevolgen van overregulering kunnen fataal zijn’
Kunstmatige intelligentie (AI) doet denken aan kaskrakers als Minority Report, Terminator, 2001: A Space Odyssey, WarGames en The Matrix. Met andere woorden ondraaglijke surveillance, uitroeiing door machines en de onderdrukking van de mens door machines.
Toen de revolutionaire ChatGPT afgelopen herfst verscheen, voerde een ware psychose de boventoon. Immers, kunstmatige intelligentie loopt in vele opzichten op ons voor, overtreft ons in intelligentie en kan binnenkort zelfs zelfbewustzijn verwerven.
Vandaar de poging om een schijnbaar nieuw en nu bloeiend gebied te temmen en het dringende wetgevende werk op het gebied van AI in de Europese Unie en de Verenigde Staten. Dit werk is des te dringender omdat landen als Frankrijk en Italië zijn begonnen met het invoeren van hun eigen wetgeving (Italië heeft zelfs ChatGPT een tijdje verboden op grond van privacybescherming). Op 14 juni heeft het Europees Parlement een AI-wet aangenomen, de eerste in zijn soort ter wereld.
De wet regelt de meest urgente problemen in verband met de dreiging van desinformatie op grote schaal en deepfaketechnologie – het creëren van nepbeelden die bijna niet van echt te onderscheiden zijn. We hebben hier een voorproefje van gezien met de foto’s en video’s van de arrestatie en het in de boeien slaan van Donald Trump, die tot rellen hadden kunnen leiden in de Verenigde Staten. AI-gegenereerde inhoud zal als zodanig gemarkeerd moeten worden. En dat is logisch.
Door buitensporige barrières en regelgeving in Europa en de VS zullen deze landen achterblijven in de technologische en economische race
Probleem is alleen dat de AI-wet nog maar het begin is. De ontwikkeling van kunstmatige intelligentie zal ongetwijfeld veel sneller gaan dan de actie van wetgevers, wat vragen oproept over de effectiviteit van regelgeving. Deze laatste zullen voortdurend moeten worden bijgewerkt of volledig gewijzigd, wat aanleiding zal geven tot tonnen nieuwe wetten. Ik vrees dat Europa moeite zal hebben om zijn verlangen om alles te reguleren onder controle te houden.
En toch kunnen de gevolgen van overregulering fataal zijn voor de economie, net nu kunstmatige intelligentie deze naar een heel nieuw niveau zou moeten tillen, door het management te verbeteren, de kosten te verlagen en innovatie met sprongen vooruit te stuwen. Door buitensporige barrières en regelgeving in Europa en de Verenigde Staten zullen deze landen achterblijven in de technologische en economische race. De grote winnaar zal China zijn, dat hier geen probleem mee heeft en klaarstaat om de leiding te nemen in deze race.
Twee machtige groepen zullen ook botsen in de AI-strijd. Aan de ene kant de tegenstanders, die de plaats zullen innemen van de huidige antivaxers (of misschien hun krachten zullen bundelen?) en van AI de incarnatie van de duivel zullen maken. Aan de andere kant de technologiemultinationals en de meerderheid van de burgers, die de voordelen zullen zien van een intelligente assistent die bijna alles kan wat een mens kan, inclusief werken.
Bijvoorbeeld het zogenaamde surveillance-amendement, dat voorzag in de mogelijkheid om realtime biometrische identificatie, zoals gezichtsherkenningstechnologie via AI, in te voeren, laat zien hoe ver de meningen kunnen uiteenlopen om uiteindelijk in geschillen te belanden. Voorlopig is het voorstel geschrapt onder druk van politici, die hebben gewezen op de bedreiging die het vormt voor de vrijheden van burgers, met name hun privacy. Tegelijkertijd zouden dergelijke instrumenten zeer effectief zijn bij het vervolgen van criminelen of het vinden van vermiste kinderen. Vrijheid of veiligheid? Dit is slechts een van de vele dilemma’s die ons te wachten staan als het om AI gaat.
AI heeft het besturingssysteem van de menselijke beschaving gehackt, wat de loop van de menselijke geschiedenis zal veranderen, aldus historicus en denker Yuval Noah Harari. ‘Als ik een gesprek met iemand voer en niet weet of het een mens is of een AI, dan betekent dat het einde voor de democratie.’
De angst voor kunstmatige intelligentie (AI) heeft de mensheid sinds het allereerste begin van het computertijdperk achtervolgd. Eerst richtte deze angst zich op machines die fysieke middelen gebruikten om mensen te doden, tot slaaf te maken of te vervangen. Maar de afgelopen paar jaar zijn er nieuwe AI-tools opgedoken die het overleven van de menselijke beschaving vanuit onverwachte hoek bedreigen. AI is inmiddels in staat om taal te manipuleren en te genereren, of het nu is met woorden, geluiden of beelden, en heeft daarmee het besturingssysteem van onze beschaving gehackt.
Bijna de hele menselijke cultuur bestaat uit taal. Mensenrechten zitten bijvoorbeeld niet in ons DNA. Het zijn culturele artefacten, die we hebben gecreëerd door het vertellen van verhalen en het schrijven van wetten. Goden zijn geen fysieke realiteiten, maar culturele artefacten die we hebben gecreëerd door het verzinnen van mythen en het schrijven van heilige geschriften.
Ook geld is een cultureel artefact. Bankbiljetten zijn gewoon kleurige stukjes papier, en momenteel bestaat meer dan negentig procent van het geld niet eens meer uit bankbiljetten, maar uit digitale informatie in computers. Geld ontleent zijn waarde aan de verhalen die bankiers, ministers van Financiën en cryptogoeroes ons erover vertellen. Sam Bankman-Fried, Elizabeth Holmes en Bernie Madoff waren niet zo goed in het creëren van werkelijke waarde, maar ze waren allemaal uiterst kundige verhalenvertellers.
Wat zou er gebeuren als een niet-menselijke intelligentie beter wordt in verhalen vertellen, melodieën componeren, tekeningen maken en wetten en heilige geschriften schrijven dan de gemiddelde menselijke intelligentie? Wanneer mensen het over ChatGPT en andere nieuwe AI-tools hebben, denken ze vaak aan scholieren die AI gebruiken om hun opstellen te schrijven. Wat zal er met het schoolsysteem gebeuren als kinderen dat doen? Maar dit soort vragen gaat voorbij aan het algehele beeld. Vergeet opstellen. Denk aan de volgende Amerikaanse presidentsverkiezingen in 2024, en probeer je de impact van AI-tools voor te stellen waarmee op massale schaal politieke content, nepnieuws en heilige geschriften voor nieuwe cultussen kunnen worden gecreëerd.
Alwetend orakel
De afgelopen jaren heeft de QAnon-cultus zich uitgeleefd in anonieme onlineberichten, de zogenaamde ‘q-drops’. Volgers verzamelden, vereerden en interpreteerden deze q-drops als een heilige tekst. Hoewel voor zover wij weten alle eerdere q-drops door mensen werden opgesteld, en bots alleen maar hielpen om ze te verspreiden, zouden we in de toekomst de eerste cultussen in de geschiedenis kunnen zien waarvan de heilige teksten door een niet-menselijke intelligentie zijn geschreven. Religies hebben de hele geschiedenis lang beweerd dat hun heilige boeken van een niet-menselijke bron afkomstig waren. Dat zou spoedig de werkelijkheid kunnen worden.
Op een prozaïscher niveau zouden we weldra langdurige onlinediscussies over abortus, klimaatverandering of de Russische invasie in Oekraïne kunnen voeren met entiteiten die we aanzien voor mensen, maar die in werkelijkheid AI zijn. Addertje onder het gras is dat al onze pogingen om een AI-bot op andere gedachten te brengen volstrekt zinloos zullen zijn, terwijl de AI haar boodschappen zo loepzuiver kan afstemmen dat de kans groot is dat we ons erdoor laten beïnvloeden.
Dankzij haar taalbeheersing zou AI zelfs intieme relaties met mensen kunnen aangaan en de kracht van de intimiteit kunnen gebruiken om onze meningen en ons wereldbeeld te veranderen. Hoewel er geen enkele aanwijzing is dat AI over een eigen geweten of eigen gevoelens beschikt, hoeft ze alleen maar een emotionele band met mensen te kweken om op intieme voet met ze te geraken. In juni 2022 beweerde Blake Lemoine, een softwareontwikkelaar van Google, publiekelijk dat de AI-chatbot Lamda, waaraan hij werkte, gevoelens had ontwikkeld. Deze controversiële bewering kostte hem zijn baan. Het interessantst aan het voorval was niet Lemoines bewering, die vermoedelijk onwaar was, maar zijn bereidheid om zijn lucratieve baan op het spel te zetten ten behoeve van de AI-chatbot. Als AI mensen zo ver kan krijgen dat ze hun baan op het spel zetten, waar kan ze hen dan nog meer toe verleiden?
In een politiek gevecht om het hoofd en hart van mensen te winnen, is intimiteit het meest efficiënte wapen, en AI is inmiddels in staat om intieme relaties met miljoenen mensen te kweken. We weten allemaal dat de strijd om de aandacht van mensen het afgelopen decennium in toenemende mate in de sociale media is gevoerd. Met de nieuwe generatie AI-tools wordt deze strijd van aandacht naar intimiteit verlegd. Wat gebeurt er met de menselijke samenleving en de menselijke psychologie wanneer AI in het strijdperk treedt tegen AI om intieme neprelaties met ons te kweken, die vervolgens kunnen worden gebruikt om ons ervan te overtuigen dat we op bepaalde politici moeten stemmen of bepaalde producten moeten kopen?
Mensen zouden één enkele AI-adviseur als een alwetend orakel op ieder gebied kunnen gaan gebruiken
Zelfs zonder het kweken van ‘nepintimiteit’ zouden de nieuwe AI-tools al een immense invloed hebben op onze meningen en ons wereldbeeld. Mensen zouden één enkele AI-adviseur als een alwetend orakel op ieder gebied kunnen gaan gebruiken. Geen wonder dat Google doodsbang is. Waarom zou ik nog op zoek gaan als ik het gewoon aan het orakel kan vragen? De nieuws- en reclame-industrie zou ook doodsbang moeten zijn. Waarom nog een krant lezen als ik gewoon aan het orakel kan vragen me het laatst nieuws te vertellen? En wat hebben advertenties voor zin als ik gewoon aan het orakel kan vragen wat ik moet kopen?
En zelfs deze scenario’s weten het totaalbeeld niet echt te schetsen. We hebben het hier over het mogelijke einde van de menselijke geschiedenis. Niet het einde van alle geschiedenis, alleen van het door mensen gedomineerde deel daarvan. Geschiedenis is de interactie tussen biologie en cultuur; tussen enerzijds onze biologische behoefte aan dingen als eten en seks en anderzijds onze culturele scheppingen als religies en wetten. Geschiedenis is het proces waarmee wetten en religies eten en seks vormgeven.
Wat zal er met de loop van de geschiedenis gebeuren als AI de cultuur overneemt en verhalen, melodieën, wetten en religies gaat creëren? Eerdere hulpmiddelen als de drukpers en de radio hielpen de culturele ideeën van mensen te verspreiden, maar ze hebben nooit uit zichzelf nieuwe culturele ideeën gecreëerd. Met AI is het wezenlijk anders gesteld. AI kan geheel nieuwe ideeën creëren, een geheel nieuwe cultuur.
De komende decennia zouden we weleens in de dromen van een buitenaardse intelligentie verzeild kunnen raken
Aanvankelijk zal AI vermoedelijk de menselijke prototypes imiteren waarop ze in haar kinderjaren heeft geoefend. Maar met elk jaar dat verstrijkt zal de AI-cultuur onversaagd meer terreinen gaan verkennen waar nog geen mens ooit is geweest. Al duizenden jaren lang leven mensen in de dromen van andere mensen. De komende decennia zouden we weleens in de dromen van een buitenaardse intelligentie verzeild kunnen raken.
De angst voor AI achtervolgt de mensheid pas de afgelopen decennia. Maar duizenden jaren lang is de mens achtervolgd door een veel grotere angst. We hebben altijd oog gehad voor de manier waarop verhalen en beelden onze geest kunnen manipuleren en illusies kunnen scheppen. Bijgevolg is de mens al sinds onheuglijke tijden bang in een wereld van illusies verstrikt te raken.
Illusies
In de zeventiende eeuw vreesde René Descartes dat een boze geest hem misschien in een wereld van illusies verstrikte en alles schiep wat hij zag en hoorde. In het oude Griekenland schreef Plato zijn beroemde ‘Allegorie van de Grot’, waarin een groep mensen zijn leven lang geketend in een grot zit, met uitzicht op een blinde muur. Een scherm. Op dat scherm zien ze diverse schaduwen geprojecteerd. De gevangenen zien de illusies die ze daar waarnemen voor de werkelijkheid aan.
In het oude India verkondigden boeddhistische en hindoeïstische sages dat alle mensen verstrikt waren in de Maya, de wereld van illusies. Wat we normaliter voor de werkelijkheid aanzien zijn vaak slechts verzinsels van onze eigen geest. Vanwege hun geloof in deze of gene illusie kunnen mensen hele oorlogen voeren, anderen doden en bereid zijn ook zelf gedood te worden.
De AI-revolutie confronteert ons met de boze geest van Descartes, met de grot van Plato, met de Maya. Als we niet oppassen, kunnen we verstrikt raken achter een gordijn van illusies, dat we niet kunnen wegrukken en waarvan we de aanwezigheid misschien niet eens vermoeden.
De vraag die momenteel voorligt is hoe we ervoor kunnen zorgen dat de nieuwe AI-tools voor goede doelen worden aangewend en niet voor slechte
Natuurlijk kan de nieuwe macht van AI ook voor goede doelen worden aangewend. Daar zal ik verder niet over uitweiden, want dat doen de ontwikkelaars ervan zelf al genoeg. Het is de taak van historici en filosofen zoals ik om op de gevaren te wijzen. Maar AI kan ons zeker ook op talloze manieren helpen, van het ontdekken van nieuwe middelen tegen kanker tot het vinden van oplossingen voor de ecologische crisis. De vraag die momenteel voorligt is hoe we ervoor kunnen zorgen dat de nieuwe AI-tools voor goede doelen worden aangewend en niet voor slechte. Daarvoor moeten we eerst begrijpen waar deze tools werkelijk toe in staat zijn.
Sinds 1945 weten we dat kerntechnologie goedkope energie kan genereren ten bate van mensen, maar ook de menselijke beschaving fysiek te gronde kan richten. We hebben de hele internationale orde opnieuw vorm gegeven om de mensheid te beschermen en ervoor te zorgen dat kerntechnologie voornamelijk ten goede zou worden aangewend. Nu krijgen we te maken met een nieuw massavernietigingswapen dat de ondergang kan betekenen voor onze geestelijke en maatschappelijke wereld.
We kunnen de nieuwe AI-tools nog steeds aan een systeem van regels onderwerpen, maar dan moeten we wel snel zijn. Waar kernwapens niet in staat zijn krachtiger kernwapens uit te vinden, is AI in staat tot het ontwikkelen van AI die exponentieel krachtiger is. De eerste cruciale stap is het eisen van rigoureuze veiligheidscontroles voordat krachtige AI-tools tot het publieke domein worden toegelaten. Zoals een farmaceutisch bedrijf geen nieuwe medicijnen mag vrijgeven voordat de bijwerkingen op zowel de korte als de lange termijn zijn getest, zouden techbedrijven geen nieuwe AI-tools moeten mogen vrijgeven voordat die gegarandeerd veilig zijn. Er zou een soort keuringsdienst van waren voor nieuwe technologie moeten komen, en wel gisteren.
Zal het vertragen van de inzet van AI voor openbare doeleinden er niet toe leiden dat democratieën achter gaan lopen op gewetenloze autoritaire regimes? Integendeel. Het ongereguleerd inzetten van AI zou sociale chaos veroorzaken, wat voordelig zou zijn voor autocraten en funest voor democratieën. Democratie is een vorm van gesprek, en voor gesprekken is taal nodig. Wanneer AI de taal hackt, kan het ook ons vermogen vernietigen om zinvolle gesprekken te voeren, en daarmee de democratie.
De eerste regulering die ik zou willen voorstellen is de verplichting voor AI om te melden dat ze een AI is
We hebben net kennisgemaakt met een buitenaardse intelligentie, hier op aarde. Veel weten we er nog niet van, behalve dat ze onze beschaving te gronde kan richten. We moeten een halt toeroepen aan het onverantwoordelijk inzetten van AI-tools in de openbare ruimte, en AI reguleren voordat ze ons reguleert. En de eerste regulering die ik zou willen voorstellen is de verplichting voor AI om te melden dat ze een AI is. Als ik een gesprek met iemand voer en niet weet of het een mens is of een AI, dan betekent dat het einde voor de democratie.
Deze website gebruikt cookies. Door de site te gebruiken gaan we er vanuit dat je ze accepteert. OK
Manage consent
Over onze cookies
Deze website gebruiks cookies die de gebruikservaring verbeteren. De cookies die we als noodzakelijk categoriseren worden opgeslagen door je browser en zijn essentiëel voor een goede werking van de basisfuncties van deze website. We gebruiken ook third-party cookies die ons helpen te analyseren hoe deze website gebruikt wordt. Deze cookies kunnen ook voor marketingdoeleinden worden gebruikt. Ze worden alleen door je browser opgeslagen als je daar toestemming voor geeft.
Onze noodzakelijke cookies zijn essentiëel voor het goed functioneren van deze website. De basisfuncties en beveiliging van deze website zijn hiervan afhankelijk. Deze cookies slaan geen persoonlijke informatie op.
