Apple is de samenwerking aangegaan om nieuwe AI-functies te lanceren
Apple gaat samenwerken met OpenAI om Apple Intelligence, zijn nieuwe generatieve AI-systeem, te lanceren. Apple ‘heeft zich aangesloten bij de wapenwedloop op het gebied van kunstmatige intelligentie’ door maandag Apple Intelligence te introduceren, in samenwerking met OpenAI, de maker van ChatGPT, meldt The Wall Street Journal.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
Dit nieuwe AI-systeem ‘biedt een preview van wat velen beschouwen als de heilige graal van AI, een spraakassistent met genoeg persoonlijke informatie over de gebruiker om hem aanzienlijk te helpen bij uiteenlopende taken’, aldus het dagblad.
Apple is de samenwerking met OpenAI en zijn ChatGPT aangegaan om een aantal nieuwe AI-functies te kunnen lanceren, zoals het beantwoorden van complexere vragen of het opstellen van berichten; mogelijkheden die de AI van Apple niet aankan.
AI-industrie staat onder druk om nepnieuws aan te pakken
Technologiebedrijf OpenAI heeft bekendgemaakt dat het geheime beïnvloedingscampagnes vanuit Rusland, China, Israël en Iran heeft verstoord, meldt Forbes. De maker van ChatGPT en andere software met kunstmatige intelligentie zei dat het vijf campagnes had geïdentificeerd met ‘misleidende pogingen om de publieke opinie te manipuleren of politieke uitkomsten te beïnvloeden zonder de ware identiteit of bedoelingen van de actoren erachter te onthullen’.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
De campagnes gebruikten de software van OpenAI om tekst en afbeeldingen te genereren die werden geplaatst op sociale mediaplatforms zoals Telegram, X en Instagram, , aldus OpenAI in een statement op de website van het bedrijf. OpenAI zei dat het accounts heeft beëindigd die geassocieerd waren met twee Russische operaties genaamd Bad Grammer en Doppelganger; een Chinese campagne bekend als Spamouflage; een Iraans netwerk genaamd International Union of Virtual Media; en een Israëlische operatie met de naam Zero Zeno.
Beïinvloedingsoperaties op sociale mediaplatforms hebben de aandacht getrokken van de techwereld sinds 2016, toen werd vastgesteld dat door Rusland gesponsorde entiteiten probeerden tweedracht te zaaien in de aanloop naar de presidentsverkiezingen ten gunste van toenmalig kandidaat Donald Trump. Vooral de mogelijkheid dat AI-nepnieuws verkiezingen kunnen verstoren, voedt de angst nu miljarden mensen over de hele wereld dit jaar naar de stembus gaan, waaronder in de VS, India en de Europese Unie. Daarom staat de AI-industrie onder toenemende druk om verantwoording af te leggen voor de content die haar producten maken. Experts roepen de industrie op om te voorkomen dat gebruikers misleidend en kwaadaardig materiaal genereren – en om manieren aan te bieden om de oorsprong en distributie ervan te traceren, aldus The New York Times.
De actrice weigerde eerder om een van de stemmen te worden
OpenAI wil een stem van ChatGPT veranderen, omdat de stem van de chatbot te veel gelijkenis vertoont met de stem van actrice Scarlett Johansson. Het bedrijf dat gespecialiseerd is in kunstmatige intelligentie kondigde maandag aan dat het werkte aan een verandering van de digitale stem ‘Sky’ die moet reageren op internetgebruikers, die de indruk hebben dat ze te maken hebben met de actrice.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
Later op de avond beschuldigde Johansson op haar beurt het bedrijf ervan dat het probeerde haar stem te imiteren, meldt The Hollywood Reporter. De actrice zei in een verklaring dat Sam Altman, de CEO van OpenAI, afgelopen september contact met haar had opgenomen om haar te vragen een van de stemmen van ChatGPT te worden om ‘consumenten te helpen zich meer op hun gemak te voelen met de ingrijpende veranderingen die AI voor mensen met zich meebrengt’. De actrice weigerde.
De nieuwe dienst zou net zo verslavend kunnen zijn als sigaretten
De EU heeft gezegd dat ze een nieuwe door TikTok gelanceerde dienst in Europa zal verbieden waarvan zij denkt dat deze ‘net zo verslavend kan zijn als sigaretten’, tenzij het bedrijf ‘overtuigend’ nieuw bewijs levert dat kinderen beschermd zijn. Dat schrijft The Guardian.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
Als het verbod doorgaat, zou het de eerste keer zijn dat de EU ingrijpende nieuwe bevoegdheden gebruikt om sancties op te leggen aan sociale-mediabedrijven sinds de historische Digital Service Act (DSA) afgelopen augustus van kracht werd.
De commissie gaf TikTok tot woensdag de tijd om ‘argumenten ter verdediging aan te voeren die de commissie zorgvuldig zal beoordelen’ voordat zij een definitief besluit neemt over maatregelen.
De digitale commissaris, Thierry Breton, zei dat het Chinese platform ‘er niet in slaagde te bewijzen’ dat TikTok Lite, dat gebruikers beloont voor het bekijken van clips, voldoet aan de wettelijke verplichtingen en beschreef de dienst als ‘giftig’.
Het nieuwste orakel in de kunstmatige-intelligentierace, Gemini, blijkt nogal wat eigenaardigheden te bevatten in het genereren van goed gelijkende beelden. Hoe moeten we het wokisme van deze ‘waarheidsmachine’ duiden?
Stel je een kort verhaal voor uit de bloeitijd van de sciencefiction, een verhaal dat in 1956 in een boulevardblad zou verschijnen. De titel is ‘De waarheidsmachine’ en de auteur voorziet een toekomst waarin computers, van die kolossen die tot aan het plafond reiken, krachtig genoeg worden om mensen antwoord te geven op elke vraag die er te stellen valt, van de hoofdstad van Bolivia tot de beste manier om een biefstuk te marineren.
Hoe zou zo’n verhaal aflopen? Ongetwijfeld met de onthulling van een geheime agenda achter de belofte van allesomvattende kennis. Zoals dat er misschien een nog slimmere en creatievere machine is, de Waarheidsmachine 2.0, waarop iedereen zijn zinnen heeft gezet. Waarna een groep andersdenkenden erachter komt dat versie 2.0 fanatiek en krankzinnig is, dat de machine de mens voorbereidt op een totalitaire hersenspoeling of onvrijwillige uitsterving.
Gebruikers meldden dat ze wel plaatjes van Vladimir Lenin mochten zien maar niet van Adolf Hitler
Dit hersenspinsel is geïnspireerd op onze werkelijke versie van de Waarheidsmachine, het orakel Google, dat kortgeleden Gemini heeft gelanceerd als de nieuwste deelnemer aan de kunstmatige-intelligentierace. Het duurde niet lang voordat gebruikers bepaalde, nou ja, eigenaardigheden aan Gemini ontdekten. De opvallendste was dat het model moeite had om goed gelijkende beelden te genereren van Vikingen, oude Romeinen, willekeurige Duitse echtparen van rond 1820 en verschillende andere demografische types met een doorgaans wat blekere teint.
Het probleem was misschien enkel dat het beeldmateriaal van de AI op raciale diversiteit was geprogrammeerd en dat de historische weergave daarvan op de een of andere manier (aldus Google zelf) haar doel voorbij was geschoten, met als gevolg dat een verzoek om een afbeelding van een Duitse soldaat anno 1943 Afrikaanse en Aziatische types in Werhrmachtsuniform opleverde. Maar door de manier waarop Gemini vragen beantwoordde, leek de niet-witte oriëntatie eerder te worden ingegeven door het wereldbeeld dat eraan ten grondslag lag. Gebruikers meldden dat hun de les werd gelezen over ‘schadelijke stereotypen’ wanneer ze om een afbeelding van Norman Rockwell vroegen, dat ze te horen kregen dat ze wel plaatjes van Vladimir Lenin mochten zien maar niet van Adolf Hitler, en dat ze nul op het rekest kregen als ze vroegen om afbeeldingen van groepen die als wit werden aangemerkt.
Woke AI
De Amerikaanse schrijver en statisticus Nate Silver meldde dat hij antwoorden kreeg die ‘uit de politieke koker van het gemiddelde gemeenteraadslid van San Francisco leken te komen’. Journalist Timothy Carey van Washington Examiner ontdekte dat Gemini voorstander was van een kinderloos bestaan en tegen het hebben van een groot gezin; het voorzag om ethische redenen niet in een recept voor foie gras, maar wist wel te vertellen dat er aan kannibalisme veel verschillende kanten zaten.
Dit soort resultaten als ‘woke AI’ bestempelen is geen belediging. Het is een technische beschrijving van wat ’s werelds toonaangevendste zoekmachine besloot prijs te geven.
Op deze ervaring zijn drie reacties mogelijk. De eerste is de typisch conservatieve reactie, zo van: zie je nou wel? Hier krijgen we een kijkje achter de schermen, wordt ons onthuld wat de mensen die verantwoordelijk zijn voor ons dagelijkse informatiedieet werkelijk geloven, namelijk dat alles waaraan ook maar iets wits kleeft verdacht is, dat alles wat ook maar naar niet-westers zweemt bijzonder respect verdient en dat de geschiedenis teruggekoppeld en gedekoloniseerd moet worden om aan de hedendaagse behoeften te kunnen voldoen. Google maakte het in dit geval misschien wel heel erg bont, maar we mogen er gevoeglijk van uitgaan dat de volledige architectuur van het moderne internet door eenzelfde, zij het iets subtielere vooringenomenheid wordt gekenmerkt.
Spot gedreven
De tweede reactie is nonchalanter. Ja, Gemini ademt vermoedelijk de denkbeelden van sommige mensen die in Silicon Valley verantwoordelijk zijn voor ideologische correctheid. Maar we leven niet in een sciencefictionverhaal met maar één Waarheidsmachine. Als de zoekbalk van Google Gemini-achtige resultaten zou opleveren, zouden gebruikers die voor gezien houden. En op internet wordt overal buiten Google de spot met Gemini gedreven, vooral op een concurrerend platform dat wordt gerund door een miljardair die befaamd is om zijn afkeer van wokisme. We kunnen beter meespotten dan bang zijn voor woke AI – of nóg beter, ons net als zangeres Grimes, ooit de geliefde van voornoemde unwoke miljardair, verbazen over wat het gekwelde algoritme van Gemini voortbrengt en de resultaten beschouwen als een ‘meesterwerk van performancekunst’, als ‘stralend hoogtepunt van zakelijk surrealisme’.
De derde reactie weegt de twee eerdere zienswijzen tegen elkaar af en stelt dat veel afhangt van de kant die AI volgens jou op zal gaan. Blijft het hele project een opgepimpt zoekmodel, een machine die middelmatige verhandelingen en talloos veel nutteloze uitweidingen voortbrengt, dan zal iedere poging om er een fanatieke ideologische agenda mee af te dwingen vermoedelijk onder alle drek worden bedolven.
Hoe serieuzer je die zienswijze neemt, hoe minder vermakelijk de Gemini-ervaring wordt
Maar die kant zal het volgens de makers van modellen als Gemini niet opgaan met hun werk. Zij zien zichzelf als de architecten van iets goddelijks, iets wat kan uitgroeien tot de perfecte Waarheidsmachine – die op vooralsnog onvoorstelbare manieren problemen oplost – dan wel tot onze leermeester en opvolger die al onze vragen overbodig maakt.
Hoe serieuzer je die zienswijze neemt, hoe minder vermakelijk de Gemini-ervaring wordt. Wanneer je het vermogen om een chatbot te creëren in handen speelt van dwazen en mensen die je de regels willen voorschrijven, bega je als bedrijf een komische blunder. Wanneer je dwazen en mensen die je de regels willen voorschrijven de opdracht geeft een halfgod of een duivel te creëren, zal het waarschijnlijk net zo aflopen als in het gemiddelde sciencefictionverhaal: slecht voor iedereen.
Apple is gestopt met het geruchtmakende ‘Project Titan’, dat als doel had om een zelfrijdende elektrische auto te ontwikkelen. Tweeduizend mensen werkten aan het project, toch was er weinig bekend over het voertuig dat al zeker sinds 2015 in ontwikkeling was. Maar door een reeks problemen, waaronder een groot personeelsverloop, een veranderende strategie, ‘interne scepsis’ en de afwezigheid van de oorspronkelijk gehoopte automatische piloot, heeft Apple het uiteindelijk opgegeven, aldus The Verge.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
Naar verluidt heeft het bedrijf het nieuws dinsdag intern aangekondigd en gezegd dat veel mensen in het team achter de auto in plaats daarvan aan generatieve AI zal gaan werken. Ook zullen er ontslagen vallen. Volgens The Verge is de verschuiving van middelen naar AI logisch voor Apple, aangezien het bedrijf naar verluidt miljoenen dollars per dag besteedt aan het trainen van een eigen AI-model, Ajax genaamd.
E-bikes beter voor het milieu dan elektrische auto‘s
Bijna de helft van het woon-werkverkeer in Australië gebeurt met de auto en beslaat minder dan 10 kilometer. In de VS is zelfs 60 procent van alle autoritten korter dan 10 kilometer. Een elektrische auto kopen dus? Nou, voor al die korte ritten is een elektrische fiets of brommer goedkoper in aanschaf en gebruik én beter voor het milieu, schrijft Ars Technica. Steeds meer mensen zien dat in.
Een elektrische fiets of brommer is goedkoper in aanschaf en gebruik én beter voor het milieu
Dankzij hun onstuitbare opmars in vooral China is de vraag naar elektrische tweewielers vier keer zo groot als die naar elektrische auto’s. Tegenover ruim 20 miljoen elektrische personenwagens en 1,3 miljoen elektrische bussen en vrachtwagens reden er vorig jaar wereldwijd meer dan 280 miljoen elektrische bromfietsen, scooters, motorfietsen en driewielers rond. Hun populariteit vermindert de vraag naar olie met een miljoen vaten olie per dag. Dat komt neer op ongeveer 1 procent van de wereldwijde vraag naar olie.
Self Similar heet dit reusachtige nieuwe werk van de Amerikaanse kunstenaar Jim Denevan in Abu Dhabi. Het is de première van een nieuw initiatief van het ministerie van Cultuur en Toerisme om openbare werken in de Verenigde Arabische Emiraten nieuw elan te geven. Er is ook een lichtkunsttentoonstelling voor de hele stad te zien, naast 35 andere locatiegebonden kunstwerken van lokale en internationale kunstenaars. Denevan maakt al jarenlang precieze geometrieën op uitgestrekte zandvlakten. Zijn composities zijn vergankelijk van aard, ze verdwijnen door de veranderende jaargetijden.Bezoekers kunnen dit werk, op het Fahid-eiland in Abu Dhabi, aan de randvan de Perzische Golf, vanaf een brug bekijken. De 19 ringen en 448 piramides omspannen bijna een vierkante kilometer; het hoogste werk meet 27 meter.
De rijkste 1 procent op aarde zorgt voor meer CO2-uitstoot dan de armste 66 procent, aldus The Great Carbon Divide, een rapport van The Guardian, Oxfam en het Stockholm EnvironmentInstitute. Het is het grootste onderzoek naar mondiale klimaatongelijkheid tot nog toe. Volgens het rapport was een ‘vervuilerselite’ van 77 miljoen mensen – onder wie miljardairs, miljonairs en mensen met een salarisvan meer dan 130.000 euro per jaar – verantwoordelijk voor 16 procent van alle CO2-uitstoot in 2019.
Volgens het rapport was een ‘vervuilerselite’ van 77 miljoen mensen verantwoordelijk voor 16 procent van alle CO2-uitstoot in 2019
Met behulp van een formule voorsterftecijfers – die uitgaat van wereldwijd 226 extra sterfgevallen voor elke miljoen ton CO2– is berekend dat de uitstoot van de rijkste 1 procent in de komende decennia verantwoordelijk zal zijn voor de hitte gerelateerde dood van 1,3 miljoen mensen. Onevenredig veel mensen die in armoede leven worden getroffen: 91 procent van de sterfgevallen als gevolg van extreem weer doet zich voor in ontwikkelingslanden, volgens de VN.
Watercrisis
Het tekort aan drinkwater wordt een belangrijk onderwerp bij de verkiezingen van volgend jaar in Mexico, aldus Americas Quarterly. Overal in het land komen steeds vaker watertekorten voor. Die leiden tot economische problemen en massale protesten, én krijgen toenemende aandacht van de twee belangrijkste presidentskandidaten: Claudia Sheinbaum van de regerende Morena-partij en Xóchitl Gálvez van de Breed Front-coalitie.
De afgelopen maanden protesteerden duizenden mensen tegen watertekorten. Volgens de grondwet moet de overheid toegang tot schoon drinkwater garanderen, maar daar wordt voor steeds meer burgers in stedelijke gebieden en kleine gemeenten niet aan voldaan. Van de Mexicanen heeft 57 procent geen toegang tot een betrouwbare waterbron, en 105 van de 653 watervoerende lagen in het land worden zodanig geëxploiteerd dat ze niet meer gevuld raken. Samen met China en de Verenigde Staten is Mexico een van ’s werelds grootste verbruikers van gebotteld water.
Gebombardeerde huizen, vernielde voertuigen, puin op straat. In die chaos lopen twee kinderen in warm avondlicht. Het is een foto die zó genomineerd kan worden voor een persprijs, ware het niet dat hij door AI is gegenereerd. Hoewel Gaza niet expliciet wordt vermeld in de beschrijving van de afbeelding, komt hij bij een zoekopdracht op de site met stockfoto’s van Adobe als een van de eerste naar voren bij het trefwoord ‘Gaza’.
Het beeld van de twee kinderen is gemaakt door de Iraanse kunstenaar Meysam Azarneshin, die op AdobeStock nog veel meer werken aanbiedt. Twee daarvan kwamen terecht op de website van het Duitse leger en ineen publicatie van het Oostenrijkse ministerie van Defensie, aldus Neue Zürcher Zeitung. Bij de beeldenstaat niet dat ze met behulp van AI gegenereerd zijn, terwijl dat volgens richtlijnen van Adobe Stock wel zou moeten. Kennelijk handhaaft het bedrijf de eigen regels niet, en het wil ook geen persvragen beantwoorden. Hetzelfde geldt voor Alamy dat, anders dan Adobe Stock, naast stockfoto’s ook echte persfoto’s aanbiedt.
Sinds de aanval van Hamas op Israël wordt online een grote hoeveelheid onbetrouwbare informatie over het conflict verspreid. Het wordt steeds moeilijker om te zeggen wat waar is en wat niet, vooral als het gaat om AI-afbeeldingen, die steeds vaker rondgaan.
Het wordt steeds moeilijker om te zeggen wat waar is en wat niet, vooral als het gaat om AI-afbeeldingen
Het is steeds eenvoudiger om ze te maken, en ze verkopen op Adobe Stock kennelijk beter dan echte foto’s. Volgens informatie van Stockperformers, een analyseportaal voor stockfotografen, verdienen kunstenaars op Adobe Stock gemiddeld 17 cent per maand per AI-afbeelding, vier keer zoveel als het gemiddelde. Toch is het de vraag of het verstandig is om ze te gebruiken; dat merkte Amnesty International in april. Dengo postte AI-afbeeldingen op sociale media ter illustratie van een rapport over politiegeweld in Colombia en vermeldde erbij dat de beelden door AI waren gecreëerd. Desondanks werd Amnesty beschuldigd van valse informatie, omdat de afbeeldingen de waarheid van het rapport geweld aan zouden doen.
In Spanje wonen ruim driehonderdduizend Britten. De meerderheid daarvan is op leeftijd en hoopt de oudedag te slijten op een goedkope, zonnige plek. Kelly Hall, universitair docent Sociaal Beleid aan de Universiteit van Birmingham, deed onderzoek naar deze migranten en zegt dat sommigen tegen ‘grote problemen’ aanlopen. Dat schrijft Euronews. Ze verhuizen rond hun vijftigste of zestigste, als ze nog gezond zijn, naar plekken in Spanje waar veel andere Britten wonen. Ze leren geen Spaans omdat ze het ‘moeilijk’ vinden of het ‘niet nodig’ denken te hebben. ‘Ze zijn een tijdje heel gelukkig,’ zegt Hall, ‘maar dan gebeurt er iets – een partner overlijdt of ze krijgen gezondheidsproblemen waardoor ze in een onzekere positie terechtkomen die geestelijke problemen of eenzaamheid kan veroorzaken.’
Ze leren geen Spaans omdat ze het ‘moeilijk’ vinden of het ‘niet nodig’ denken te hebben
Neil Hesketh van Support in Spain, een non-profitorganisatie die Britse expats helpt, zegt dat ze niet altijd plannen maken voor de ‘vervelende dingen in het leven’. Ook Brexit heeft het leven van veel Britten in Spanje beïnvloed. Vooral mensen met lagere inkomens, zegt Hall, zijn hard getroffen door de waardevermindering van het pond. ‘Ze kunnen niet langer uitgaan met hun vrienden, waardoor hun sociale leven verdwijnt.’ Ze wijst op gevallen waarbij oudere mensen op het strand moesten slapen omdat ze hun huur niet konden betalen.Ook de Britse ambassade in Spanje waarschuwt dat veel van de 72.000 Britten die aan de Costa del Sol wonen – de thuisbasis van de grootste gemeenschap Britten in Spanje – geïsoleerd en alleen kunnen zijn en roept deskundigen en overheidsinstanties op om hun landgenoten te helpen.
Er is onrust ontstaan nadat de OpenAI-topman werd ontslagen
De meerderheid van het personeel van het techbedrijf OpenAI heeft het bestuur in een open brief opgeroepen om af te treden na een historisch chaotisch weekend in de Amerikaanse techwereld. Dat meldt The Washington Post.Volgens de 505 ondertekenaars van de brief is het bestuur niet competent. Ook willen ze dat de ontslagen topman Sam Altman zijn baan terugkrijgt.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
Altman werd vrijdag, tegelijk met bestuursvoorzitter Greg Brockman, volkomen onverwacht ontslagen. Volgens het bestuur zou Altman niet goed hebben gecommuniceerd met hem. Op zondag maakte het tweetal bekend over te stappen naar Microsoft, om daar verder onderzoek te doen naar AI. Microsoft investeerde al in OpenAI.
De honderden ondertekenaars van de brief dreigen zelf ontslag zullen nemen als hun eisen niet worden ingewilligd en zeggen bij Microsoft aan de slag te kunnen. Volgens Amerikaanse media was er al langer sprake van een conflict in het bestuur van OpenAI over de ethische grenzen van kunstmatige intelligentie en over hoe bedrijven die grenzen moesten afbakenen.
Doordat de populariteit van kunstmatige intelligentie toeneemt, groeit de vraag naar grote, kwalitatief goede datasets. Maar die zijn schaars. ‘Een data-landjepik zal niet lang meer op zich laten wachten.’
Nog niet zo lang geleden vroegen analisten zich openlijk af of kunstmatige intelligentie (AI) de dood zou betekenen voor Adobe, een maker van software voor creatieve types. Nieuwe tools als DALL-E 2 en Midjourney, die beelden uit tekst toveren, leken de fotobewerkingsprogramma’s van Adobe overbodig te maken. Afgelopen april publiceerde Seeking Alpha, een financiële nieuwssite, nog een artikel met de kop: ‘Wordt AI de dood voor Adobe?’
Verre van. Adobe heeft zijn database met honderden miljoenen stockfoto’s gebruikt om zijn eigen suite van AI-tools te bouwen, Firefly gedoopt. Sinds de software afgelopen maart is vrijgegeven zijn er al meer dan een miljard beelden mee gecreëerd, zegt Dana Rao, een leidinggevende bij het bedrijf. Door niet naar beelden op internet te zoeken, wat concurrenten deden, heeft Adobe de steeds verhitter wordende discussie over auteursrechten die de industrie nu achtervolgt weten te omzeilen. De aandelenkoers van het bedrijf is sinds de lancering van Firefly met 36 procent gestegen.
Adobes triomf over de zwartkijkers werpt ook in bredere zin een licht op de strijd om dominantie in de zich snel ontwikkelende markt voor AI-tools. De supergrote modellen die de nieuwste golf zogeheten ‘generatieve’ AI aandrijven maken gebruik van gigantische hoeveelheden data. Nadat ze het internet al flink hebben afgegraasd., vaak zonder toestemming, zijn modelbouwers nu op zoek naar nieuwe databronnen om de razende honger te stillen. Ondertussen bekijken bedrijven die over enorme hoeveelheden data beschikken hoe ze die het best te gelde kunnen maken. Een data-landjepik zal niet lang meer op zich laten wachten.
De twee essentiële ingrediënten voor een AI-model zijn datasets, waarop het systeem wordt getraind, en verwerkingskracht, waarmee het model relaties binnen en tussen deze datasets detecteert. Deze twee ingrediënten zijn tot op zekere hoogte substituten: een model kan worden verbeterd door ofwel meer data in te voeren ofwel meer verwerkingskracht toe te voegen. Dat laatste wordt echter bemoeilijkt door een tekort aan gespecialiseerde AI-chips, zodat modelbouwers dubbel gefocust zijn op het zoeken naar data.
Hoogwaardige tekst
De vraag naar data groeit zo snel dat de voorraad hoogwaardige tekst die voor training beschikbaar is in 2026 misschien uitgeput zal zijn, schat onderzoeksbureau Epoch AI. De laatste AI-modellen van techgiganten Google en Meta zijn naar wordt aangenomen getraind op meer dan een biljoen woorden. Ter vergelijking: het totale aantal Engelse woorden op Wikipedia bedraagt zo’n vier miljard.
Niet alleen de omvang van de datasets telt. Hoe beter de data, des te beter het model. Op tekst gebaseerde modellen zijn idealiter getraind op uitgebreide, goed geformuleerde, feitelijk juiste geschriften, zegt Russell Kaplan van data-startup Scale AI. Bij modellen waarin deze informatie wordt ingevoerd is er een grotere kans dat ze output van overeenkomstige hoge kwaliteit leveren. Op diezelfde manier geven AI-chatbots betere antwoorden wanneer ze wordt gevraagd hun werking stap voor stap uit te leggen, waardoor de vraag naar bronnen als leerboeken die dat ook doen toeneemt. Gespecialiseerde informatiesets zijn ook in trek, omdat die het mogelijk maken modellen te finetunen voor meer nichetoepassingen. Nadat Microsoft in 2018 voor 7,5 miljard dollar GitHub had aangekocht, een online platform voor de opslag van softwareprogramma’s, was het makkelijker om een AI-tool voor het schrijven van programma’s te ontwikkelen.
‘In Amerika is er al een aantal rechtszaken tegen modelbouwers aangespannen wegens inbreuk op het auteursrecht’
Naarmate de vraag naar data toeneemt wordt het steeds moeilijker om er toegang toe te krijgen, omdat contentmakers nu compensatie eisen voor materiaal dat in AI-modellen is ingevoerd. In Amerika is er al een aantal rechtszaken tegen modelbouwers aangespannen wegens inbreuk op het auteursrecht. Een groep schrijvers, onder wie komiek Sarah Silberman, heeft een aanklacht ingediend tegen OpenAI, de maker van de AI-chatbot ChatGPT, en tegen Meta. Ook heeft een groep kunstenaars Stability AI aangeklaagd, een bouwer van tekst-naar-beeldtools, en Midjourney.
Het resultaat van dit alles is dat AI-bedrijven om het hardst deals proberen te sluiten voor het veiligstellen van databronnen. Afgelopen juli tekende OpenAI een contract met nieuwsagentschap Associated Press om toegang te krijgen tot hun tekstarchief. Ook heeft het bedrijf kortegeleden een uitgebreidere overeenkomst gesloten met Shutterstock, een leverancier van stockfoto’s, waarmee ook Meta een deal heeft. Op 8 augustus jongstleden werd gemeld dat Google in gesprek is met platenlabel Universal Music over het gebruik van artiestenstemmen voor een AI-tool voor het schrijven van songs. Vermogensbeheerder Fidelity heeft verklaard te zijn benaderd door techbedrijven die toegang willen tot zijn financiële data. Ook gaan er geruchten over AI-labs die de Britse omroep BBC benaderen voor toegang haar foto- en filmarchief. Een ander doelwit is naar verluidt JSTOR, een digitale bibliotheek van wetenschappelijke tijdschriften.
Bezitters van informatie profiteren van hun sterkere onderhandelingspositie. Reddit, een discussieforum, en Stack Overflow, een vraag-en-antwoordsite die populair is bij programmeurs, hebben de toegangskosten voor hun data verhoogd. Beide websites zijn extra waardevol omdat gebruikers gewenste antwoorden ‘upvoten’, waardoor modellen weten welke het relevantst zijn. Socialemediasite Twitter (inmiddels bekend als X) heeft maatregelen genomen om het scrapen door bots te beperken en vraagt nu geld voor toegang tot zijn data. Elon Musk, de onberekenbare eigenaar, is van plan met behulp van de data een eigen AI-bedrijf te beginnen.
Datavliegwiel
Als gevolg hiervan zijn modelbouwers hard bezig om de kwaliteit van de input waarover ze al beschikken te verbeteren. Veel AI-labs hebben legers van data-annotators in dienst voor taken als het labelen van beelden en het beoordelen van antwoorden. Een deel van dat werk is complex; in één advertentie voor zo’n baan wordt een masterdiploma of doctoraat in de biowetenschappen gevraagd. Maar vaak is het minder ingewikkeld en wordt het uitbesteed aan landen als Kenia waar arbeid goedkoop is.
AI-bedrijven verzamelen ook data via interacties tussen gebruikers en hun tools. Vaak gebeurt dat in de vorm van een feedbackmechanisme, waarbij gebruikers aangeven wat voor output nuttig is. De tekst-naar-beeldgenerator van Firefly laat gebruikers uit één tot vier opties kiezen. Bard, de chatbot van Google, stelt drie antwoorden voor. Gebruikers kunnen ChatGPT een duim omhoog of een duim omlaag geven wanneer die antwoord op vragen geeft. Die informatie kan als input in het onderliggende model worden gestopt en, om met de Nederlandse Douwe Kiela, medeoprichter van de startup Contextual AI, te spreken, als ‘datavliegwiel’ fungeren. Een nog betere graadmeter voor de kwaliteit van de antwoorden van de chatbot is of gebruikers de tekst kopiëren en ergens anders in plakken, voegt hij eraan toe. Het analyseren van zulke informatie heeft Google snel geholpen om zijn vertaaltool te verbeteren.
‘Vaak wordt het werk uitbesteed aan landen als Kenia waar arbeid goedkoop is’
Er is echter één databron die grotendeels onbenut blijft: de informatie die aanwezig is binnen de muren van de zakelijke klanten van de techbedrijven. Veel bedrijven beschikken, vaak zonder het te weten, over enorme hoeveelheden nuttige data, van transcripten van callcenters tot cijfers over consumentenbestedingen. Zulke informatie is vooral waardevol omdat er modellen voor specifieke zakelijke doeleinden mee kunnen worden gefinetuned, zoals het beantwoorden van klantvragen door callcentermedewerkers of het stimuleren van de verkoop door bedrijfsanalisten.
Maar het valt niet altijd mee om die rijke bron aan te boren. Roy Singh van adviesbureau Bain merkt op dat de meeste bedrijven van oudsher weinig aandacht besteden aan de verschillende soorten omvangrijke maar ongestructureerde datasets die uiterst nuttig zouden blijken voor het trainen van AI-tools. Dikwijls zijn deze over tal van systemen verspreid en in bedrijfsservers begraven in plaats van opgeslagen in de cloud.
Door die informatie te ontsluiten zouden bedrijven beter in staat zijn AI-tools aan te passen aan hun specifieke behoeften. De techgiganten Amazon en Microsoft bieden nu tools aan om bedrijven te helpen hun ongestructureerde datasets beter te beheren, evenals Google. Christian Kleinerman van databasebedrijf Snowflake zegt dat de zaken uitstekend gaan nu klanten proberen ‘datasilo’s af te breken’. De startups schieten als paddenstoelen uit de grond. Afgelopen april haalde Weaviate, een op AI gericht databasebedrijf, 50 miljoen dollar op en wordt sindsdien gewaardeerd op 200 miljoen. Nauwelijks een week later haalde concurrent PineCone 100 miljoen dollar op, met een huidige waardering van 750 miljoen. Eerder deze maand haalde Neon, een andere database-startup, nog eens 46 miljoen dollar op aan financiering. Het gevecht om data is nog maar net begonnen.
Sinds de aanval van Hamas op Israël worden sociale media overspoeld met beelden, meningen en informatie over de oorlog. Maar niet alle informatie is betrouwbaar. Volgens techjournalist Charlie Warzel laat deze onjuiste berichtgeving op platforms met dubieuze algoritmes en filterbubbels zien dat sociale media niet langer functioneren.
Keuze uit het archief
Afgelopen week werd in Israël en andere landen de Hamasaanval van 7 oktober 2023 herdacht, die het begin markeerde van de huidige Gaza-oorlog. Later deze week gingen Israël en Hamas akkoord met de eerste fase van Trumps vredeplan voor Gaza.
De oorlog in Gaza wordt niet alleen uitgevochten met wapens, maar vooral ook met sociale media. Dit artikel van The Atlantic van twee jaar geleden laat zien hoe sociale media steeds meer verworden zijn tot fora waar iedereen maar wat kan roeptoeteren en alleen die dingen ziet die hem bevestigen in zijn eigen gelijk.
Sociale media vormen opnieuw het venster waardoor de wereld het onvoorstelbaar wrede geweld in een oorlogsgebied kan zien. Duizenden mensen, waaronder kinderen en ouderen, zijn gedood of gewond geraakt in Israël en de Gazastrook sinds Hamas zaterdag 7 oktober een verrassingsaanval uitvoerde – je hebt het bloedbad vast en zeker gezien op X, TikTok of Instagram.
De taferelen zijn ons inmiddels bekend maar daarom niet minder afschuwelijk. En toch zijn we ermee vertrouwd geraakt. Zoals mijn collega Kaitlyn Tiffany vorig jaar schreef, is oorlogsgeschiedenis ook een geschiedenis van de media. De Golfoorlog toonde de kracht van CNN en 24/7-nieuwskanalen en was een voorbode van de manier waarop politiek en cultuur de twintig jaar die volgden doordrongen raakten van infotainment. Enkele controversiële verkiezingen tussen 2008 en 2020 lieten zien hoe socialemediaplatforms de rol van experts en journalisten democratiseerden, zowel in positieve als in negatieve zin. Hetzelfde gebeurde tijdens de Arabische Lente, de Syrische burgeroorlog en de opkomst van Islamitische Staat. Commentatoren noemden de Russische invasie in Oekraïne al snel de ‘eerste TikTok-oorlog’, doordat het internet werd overspoeld met video’s van Oekraïners die de gruwelen van de oorlog op een zeer persoonlijke, vaak surrealistische manier documenteerden.
Minder relevant
Als dergelijke conflicten helpen onze informatieomgeving te kunnen begrijpen, dan moeten we vaststellen dat die laatste momenteel niet langer functioneert. Onze informatievoorziening steunt op een slecht onderhouden infrastructuur van sociale media. Ze wordt aangestuurd door miljardairs voor wie het niet langer vanzelfsprekend is dat hun platform gebruikers moet informeren. Tijdens de eerste dagen van de oorlog tussen Israël en Hamas onderhield Elon Musk, eigenaar van X, contact met accounts die vervalste video’s op zijn platform publiceerden. Ook heeft hij expliciet accounts erkend waarvan bekend is dat ze valse informatie delen en antisemitisch zijn. In een interview met The New York Times liet een functionaris van Hamas weten dat zijn organisatie gebruikmaakt van het gebrek aan moderatie op X om gewelddadige, expliciete video’s op het platform te posten en zo Israëlische burgers te terroriseren.
Ondertussen kreeg Adam Mosseri, hoofd van Instagram en de onofficiële leider van Threads – de Twitter-kloon van Instagram/Meta – het verzoek van journalisten, academici en nieuwsjunkies om zijn product geschikter te maken om oorlogen te kunnen volgen. Hij reageerde met de boodschap dat zijn team de nieuwsmedia op het platform niet wil ‘versterken’. ‘Het platform heeft de volwassenheid bereikt, er kleven nadelen aan het doen van beloftes, en er staat veel op het spel – daarom is het te riskant,’ schreef hij. (Zowel Meta als X reageerden niet op verzoeken om meer informatie over hun plan met betrekking tot het posten van conflict-gerelateerde berichten.)
Het zijn allemaal nieuwe barsten in de toch al afbrokkelende bouwwerken: de grote sociale platforms zijn het afgelopen jaar steeds minder relevant geworden. Als reactie hierop zijn sommige gebruikers overgestapt naar kleinere concurrenten als Bluesky of Mastodon. Anderen hebben er helemaal de brui aan gegeven. Het internet heeft nog nooit zo overvol aangevoeld. Tegelijk is het steeds moeilijker om te midden van alle ruis een betrouwbaar signaal op te pikken. Als informatiebronnen behoren Facebook en Twitter tot het verleden. Het mondiale stadsplein – zoals socialemediaplatforms ons ooit zo ambitieus voorschotelden – ligt in puin. Zijn architectuur is overwoekerd door de lianen en welig tierende vegetatie van de informatiejungle. Misschien is dit op de lange termijn ook wel het beste, maar voor de intensieve gebruikers van de noodlijdende platforms komt de huidige situatie over als een complete chaos.
Musk heeft X veranderd in een deepfake van Twitter – een facsimile van het ooit zo bruikbare sociale netwerk
Het is geen toeval dat de platforms zijn veranderd. Bijna een jaar lang is Musk bezig geweest met het ontmantelen van de bestaande architectuur van zijn site, inclusief het verificatiesysteem voor publieke figuren, waaronder ook journalisten. Zijn capriolen en ontslagrondes hebben bijgedragen aan de inkrimping van het team dat is belast met betrouwbaarheid en veiligheid. Nu kan iedereen tegen betaling een verificatiebadge krijgen om de zichtbaarheid van berichten te vergroten. (Sommige gebruikers met die nieuwe verificatie zijn oplichters of verspreiders van desinformatie. Een deel van hen verspreidt vals, oud of misleidend beeldmateriaal als ‘geverifieerde’ verslaglegging uit Gaza.)
Musk heeft ook accounts toegelaten die eerder waren verbannen omdat ze de regels overtraden. En vorige week, een uiterst slechte timing, heeft het platform de mogelijkheden voor het maken van koppen voor nieuwsverhalen verwijderd, met als gevolg dat de leesbaarheid er fors op achteruit is gegaan. Betrouwbare mediabronnen op het platform raken steeds verder uitgehold. Musk heeft X veranderd in een deepfake van Twitter – een facsimile van het ooit zo bruikbare sociale netwerk. Het is desoriënterend en zelfs angstaanjagend geworden.
Newsfeed
Sinds 2018 hebben Facebook en moederbedrijf Meta het algoritme van hun newsfeed veranderd en en krijgen persoonlijke berichten voorrang op die van nieuwsmedia. Na de bestorming van het Amerikaanse Capitool op 6 januari 2021 is het bedrijf minder voorrang gaan geven aan links politiek nieuws; volgensThe Wall Street Journal heeft dat gezorgd voor een stroom aan klachten over desinformatie. Tegelijkertijd viel de gebruikersbasis van Facebook uit elkaar, en rapporten over transparantie van het bedrijf onthullen dat de populairste inhoud op het platform inmiddels weinig meer is dan virale bagger; het is een woestenij vol CBD-reclames en clickbait van buitenlandse roddelmedia. Wat overblijft is gefragmenteerd. Nieuws en informatie van experts staat her en der online verspreid, en het publiek is in silo’s verdeeld; podcasts zijn als nieuwsbron populairder dan ooit en miljoenen jongeren richten zich vooral op influencers en creators op Instagram en vooral TikTok – alsof dat betrouwbare nieuwsbronnen zijn.
Zeker, de situatie daarvoor was ook niet ideaal. Sociale media, vooral Twitter, waren een fantastisch hulpmiddel om nieuws te vergaren, maar konden ook verschrikkelijk inefficiënt zijn. Het leek wel een ‘doe je eigen onderzoek’-spel, waarbij experts nodig waren om onzin, halve waarheden, hyperbolen en regelrechte leugens te scheiden van buitengewoon relevante informatie. De grootste kracht van sociale media is dus ook hun erfzonde: ze zijn er heel goed in je verbonden en geïnformeerd te laten voelen, maar dat gaat vaak ten koste van daadwerkelijk geïnformeerd zijn. En dan heb ik het nog niet eens over de psychologische tol die het staren naar een ongefilterde tijdlijn eist. Zo heb ik de nodige onthoofdingen en oorlogsmisdaden gezien via mijn scherm terwijl ik alleen maar op de hoogte wilde blijven van gebeurtenissen in de wereld.
Grootschalige reclame
Het gehakketak met Mosseri over nieuws op Threads illustreert de huidige situatie nog eens. Mosseri’s uitgangspunt is redelijk en het is echt een kwestie van cognitieve dissonantie als je Meta vraagt een veilige ruimte voor journalistiek te scheppen – het bedrijf heeft tenslotte een gruwelijke staat van dienst als het aankomt op het aanwakkeren van politieke onrust en het verspreiden van propaganda. Toch is het ook begrijpelijk dat mensen in turbulente tijden iets verlangen van deze bedrijven die om onze aandacht bedelden, geld aan ons verdienden en na verloop van tijd de manier waarop we informatie zochten beïnvloed hebben. Centraal in de pleidooien voor een alternatief voor Twitter, staat het gevoel dat een fundamentele belofte is verbroken. In ruil voor onze tijd, onze gegevens en zelfs ons welzijn uploadden we onze belangrijkste conversaties naar platforms die ontworpen zijn voor grootschalige reclame – en dat alles onder de impliciete veronderstelling dat sociale media ons een ongeëvenaard venster op de wereld zouden bieden.
Sociale media zijn niet alleen een vergaarbak voor informatie. Of verkeerde informatie. Ze zijn ook een plek om getuigenis af te leggen, solidariteit te betuigen en te vechten voor verandering. Dat is moeilijker geworden dan een jaar geleden. We kunnen niet voorspellen wat er nu gaat komen. Wel is het zinvol om te bedenken dat de centrale rol van sociale media zoals we die de afgelopen vijftien jaar hebben gekend misschien ten einde is gekomen. Misschien is dit specifieke venster op de wereld nu gesloten.
Als je wilt weten wie iemand is, vraag dan wat voor boeken hij leest. Dit principe bracht een groep studenten aan de School of Information op het idee om onderzoek te doen naar de literaire voorkeuren van kunstmatige intelligentie (AI). Daaruit blijkt dat aan programma’s als Chat-GPT nog het nodige mankeert.
Sinds de opkomst van de ontwikkelde burgerij in de achttiende eeuw biedt een blik in de boekenkast – en later in de platencollectie – een geliefd inkijkje in de persoonlijkheid en de normen en waarden van iemand die je nog niet zo goed kent. De Engelse romanschrijver Nick Hornby ging in High Fidelity zelfs zo ver dat hij zich afvroeg of je wel van mensen kunt houden die naar Phil Collins luisteren. Voor het antwoord had hij 320 pagina’s nodig.
Deze gewoonte kwam gedurende de coronapandemie weer in zwang, omdat bij Zoom- en Teams-vergaderingen de boekenkast op de achtergrond deskundigheid uitstraalde. Waarom zou dezelfde methode niet ook werken bij kunstmatige intelligentie, die immers pretendeert onze dagelijkse begeleider te zijn? Dat was In elk geval het idee van een groep economiestudenten aan de School of Information van de University of California in Berkeley.
Zij zijn niet de enigen die zich dat afvragen. Wat hebben Chat-GPT en GPT-4 eigenlijk allemaal gelezen? OpenAI, de onderneming die deze programma’s ontwikkelt, koestert het geheim van de data waarmee de programma’s getraind worden net zo streng als het algoritme. Wat het onderzoek van de studenten er niet makkelijker op maakt, maar ook niet kan tegenhouden. Op de School of Information hebben ze uit de antwoorden van de AI op de vraag naar de teksten waarop ze zich baseert, via een complexe methode een leeslijst met 572 titels opgesteld. Deze lijst is een perfect psychogram van de GPT-AI’s, om niet te zeggen een digitale canon.
Leeslijst
De eerste 20 plaatsen van de lijst worden bezet door klassieke Amerikaanse schoolboeken als Moby Dick, The adventures of Huckleberry Finn en 1984, klassieke literatuur (met liefst 2 titels van Jane Austen en Arthur Conan Doyle) en een paar populaire bestsellers als Fifty Shades of Grey. De zogenaamde wereldliteratuur komt er nauwelijks aan te pas en omvat behalve een paar vertalingen uit Azië en Afrika vooral literatuur in het Engels. (En mocht je je dat afvragen: geen enkel Duits boek).
Daarnaast is er een lijst met de top 50 van boeken die onder het auteursrecht vallen. Dit is een onderwerp apart, omdat het onderzoek daarmee en passant het bewijs levert dat OpenAI en andere AI-ondernemingen in hun trainingsbestanden wel degelijk auteursrechtelijk beschermd materiaal gebruiken. Als een AI correcte antwoorden op vragen over auteursrechtelijk beschermde werken genereert en die zelfs kan imiteren, is dat een indicatie dat deze werken zich in de trainingsdata bevinden. Dit is vooral een juridische kwestie, omdat het in de VS nog maar de vraag is of miljardenondernemingen als OpenAI deze boeken onder de fair use-clausule mag gebruiken en of ze in Europa onder de blanco-toestemming voor het verzamelen van gegevens voor onderzoeksdoeleinden vallen. Deze lijst met meer hedendaagse boeken overlapt de grote lijst voor een belangrijk deel. Maar er staan nog maar weinig moderne klassiekers op als Harper Lee’s To kill a mockingbird, John Steinbecks The grapes of wrath en Irvine Welsh’ Trainspotting. Science fiction en Fantasy zijn daarentegen zwaar oververtegenwoordigd met boeken als Lord of the Rings van J.R.R. Tolkien, The Hunger games van Suzanne Collins, Do Androids Dream of Electric Sheep? van Philip K. Dick, The Hitchhiker’s Guide to the Galaxy van Douglas Adams, Game of Thrones van George R.R. Martin en Dune van Frank Herbert.
‘Dit is de lijst van boeken die op het nachtkastje liggen van elke eenzame, heteroseksuele, witte, mannelijke nerd’
De digitale canon weerspiegelt daarmee exact de smaak van de in Silicon Valley dominante demografische groep. Of zoals tech-journalist Adam Rogers van Business Insider het treffend formuleerde: ‘Dit is de lijst van boeken die op het nachtkastje liggen van elke eenzame, heteroseksuele, witte, mannelijke nerd.’ In Amerika dan, moeten we erbij zeggen. Een testje met Duitse boeken, waarbij we dezelfde methode gebruiken: een invuloefening voor paar instapromans. Die Vermessung der Welt van Daniel Kehlmann herkent GPT-4 in een oogwenk, Italienische Reise van Goethe verwart het met Die Leiden des jungen Werther en Thomas Manns Buddenbrooks met Doktor Faustus. Unterleuten van Juli Zeh, Tschick van Wolfgang Herrndorf en Der Schwarm van Frank Schätzing: forget it.
Kennisdiagrammen
Het onderzoek verklaart niet alleen wat AI leest, maar ook hoe. Het probleem van de trainingsdata van AI-toepassingen gaat veel verder dan een blik in de boekenkast. De datasets waarmee deze machines worden getraind, worden door algoritmes gesorteerd in knowledge graphs, kennisdiagrammen waaruit de AI’s vervolgens hun waarschijnlijkheidsberekeningen afleiden.
Deze werkwijze bestaat allang. Ook de sorteermachines van eenvoudiger AI’s, zoals de algoritmes van sociale media Twitter en Facebook of de aanbevelingen van sites als Netflix en Amazon, combineren de afzonderlijke datapunten die ze verzamelen tot zulke kennisdiagrammen. Zo ontstaat in de computer een digitaal wereldbeeld dat uiteindelijk niet meer is dan een echo van alle ingevoerde data. Mensen kennen de computer echter een objectiviteit toe die is gebaseerd op het geloof dat de wiskunde een op zich onfeilbaar en logisch systeem is. Maar dat geldt niet eens in de algebra. Een neutrale dataset bestaat niet. Maar zelfs de bewering van sommige ontwikkelaars dat AI’s als Diffbot met het gehele internet zijn getraind, zou niet tot een heldere blik op de wereld leiden. Want het internet bestaat voor het grootste deel uit content en data in het Engels en wordt gedomineerd door Amerikaanse content.
‘Een neutrale dataset bestaat niet’
Het onderzoek uit Berkeley bevestigt dat volledig. De methodiek laat zich lezen als een mengeling van complexe data-analyse en invuloefeningen uit het vreemdetalenonderwijs in de laagste klassen van de middelbare school. Het vierkoppige onderzoeksteam noemt dat ‘data-archeologie’ en merkt op dat bij het onderzoeken van systemen met gesloten trainingsdatasets het aantal fouten zo groot is, dat ze voor de wetenschap onbruikbaar zouden zijn. Het team kon niet eens vaststellen of boeken bijvoorbeeld in hun geheel (memorized) of alleen als uittreksels en context (non-memorized) in de data voorkomen. Waarbij je dat van die boeken lezende AI’s sowieso met een flinke korrel zout moet nemen, aangezien de trainingsdatasets in de regel zo gigantisch zijn dat een afzonderlijk boek alleen kan worden verwerkt als het verbonden is met een kennisdiagram. De trainingsdata van GTP-4 hebben vermoedelijk een omvang van 1 petabyte (1PB). Een getal met 15 nullen. Een boek van 300 pagina’s omvat zo’n 800 kB (5 nullen). Dat betekent dat bijvoorbeeld Alice in Wonderland en Harry Potter and the stone of wisdom niet alleen op plaats 1 en 2 van de leeslijst staan omdat Chat-GPT de inhoud ervan heeft geïnternaliseerd, maar omdat deze boeken door de ontelbare fan-sites, kritieken en verwijzingen een zo zware weging hebben gekregen dat ze in zo’n diagram alle andere boeken verdringen.
Datawetenschap
Je moet je ook realiseren dat de leeslijst uit Berkeley niet is opgesteld op de faculteit literatuurwetenschappen, maar door onderzoekers van een instituut dat zich met datawetenschap bezighoudt. En dat hij, zoals bij zo veel van dit soort onderzoek, nog niet eens door de peer review is geweest.
Desondanks blijft hij exemplarisch. Want door dit onderzoek wordt de digitale canon ook in tweede optiek een zichzelf bevestigend systeem. Wat op zijn beurt weer heel goed de geest van machine learning weergeeft, waarbij op een bepaald punt de machine niet meer van data, maar van zichzelf leert.
‘Het zou niet de eerste keer zijn dat de VS een culturele canon voor de hele wereld opstelt’
Omdat de digitale wereld echter allang niet meer alleen technologie, maar ook een cultuur is, zal ze nog veel meer verhalen, waarden en voorkeuren gaan overdragen. Het zou niet de eerste keer zijn dat de VS een culturele canon voor de hele wereld opstelt. De laatste keer gebeurde dat na de Tweede Wereldoorlog, toen de Amerikaanse cultuur toonaangevend was met zijn jazz, films, verhalende literatuur, abstracte expressionisme in de schilderkunst en later met de subculturen van de beatniks, hippies, punkers en hiphoppers.
Als we een heel korte ideologische vergelijking mogen maken: Vlak na de Tweede Wereldoorlog bracht de Amerikaanse cultuur vooral democratische en emancipatorische waarden in een wereld waar de dictaturen van de As-mogendheden nog maar net waren verslagen en de wereldbeschouwingen van de tegenstanders van de VS in de Koude Oorlog als concurrenten werden gezien. We moeten niet per se afwachten of de vrijheidsbegrippen van de libertairen in Silicon Valley het algemene welzijn op de hele wereld zullen bevorderen. Ook al kwam Nick Hornby tot de conclusie dat je ook van mensen die naar Phil Collins luisteren heel goed kunt houden.
Dat de Golfstaten digitale technologieën gebruiken om hun politieke tegenstanders te onderdrukken, is niet nieuw. Maar de opkomst van nieuwe technologieën, zoals kunstmatige intelligentie, biedt autoritaire regimes extra mogelijkheden om het privédomein van burgers binnen te dringen – zonder enige vorm van rechtsgeldigheid.
In zijn boek Digital Authoritarianism in the Middle East schrijft Marc Owen Jones, universitair docent Midden-Oostenstudies aan de Hamad Bin Khalifa-universiteit in Doha (Qatar), dat regimes in het Midden-Oosten digitale technologieën – die in principe zijn bedoeld voor sociale interactie – misbruiken voor toezicht, propaganda en intimidatie. Saoedi-Arabië en de Verenigde Arabische Emiraten (VAE) investeren op grote schaal in nieuwe technologieën voor AI (kunstmatige intelligentie), in navolging van drie andere landen die een slechte reputatie hebben wat betreft mensenrechten en het onderdrukken van de eigen burgers: China, Rusland en Israël.
Digitale repressie door Arabische regeringen, en in het bijzonder door de autoriteiten in de Golfregio, is niet nieuw. Arabische burgers zijn eraan gewend dat er voortdurend informatie over hen wordt ingewonnen door het monitoren van onlineactiviteiten en de beperking van onlinevrijheden. Dat leidt bijvoorbeeld tot de arrestatie en veroordeling van activisten die ‘aanstootgevende tweets’ posten.
Arabische burgers zijn eraan gewend dat er voortdurend informatie over hen wordt ingewonnen
In 2018 beschuldigde de Amerikaanse FBI drie mannen van het hacken van Twitter in opdracht van Saoedi-Arabië, met als doel vertrouwelijke informatie over duizenden gebruikers over te dragen aan de Saoedische autoriteiten. Als gevolg van die hacks werd Abdulrahman al-Sadhan in 2018 in Riyad gearresteerd en veroordeeld tot twintig jaar gevangenisstraf, omdat hij een anoniem account zou hebben gebruikt om het economische beleid van de Saoedische regering te bekritiseren.
Maar de opkomst van technologieën als AI, en toepassingen daarvan die bijvoorbeeld kunnen infiltreren op mobiele telefoons, bieden autoritaire regimes de mogelijkheid van elektronische spionage, die kan variëren van gezichtsherkenning en het monitoren van berichten tot massasurveillance. Van enige vorm van rechtsgeldigheid of toezicht op het gebruik van dergelijke spyware is geen sprake.
Nieuwe wetten
In juni 2022 publiceerde de European Council on Foreign Relations, een Europese denktank, het onderzoeksrapport Iron Net: Digital Repression in the Middle East and North Africa. Daarin wordt gesteld dat Arabische regeringen, na de schok van de Arabische Lente in 2011, nieuwe wetten en beleid hebben geïntroduceerd om onlinegedrag aan banden te leggen, vooral gericht tegen journalisten en oppositieleiders. Volgens het onderzoek spannen autoritaire regeringen zich tot het uiterste in om tegenstanders die anoniem opereren te identificeren, en om hun gebruik van (tele)communicatienetwerken en toegang tot informatie te blokkeren.
De investeringen roepen vragen op over de potentiële gevolgen voor de mensenrechten
Afaf Abrouki, een Tunesische onderzoeker en expert op het gebied van technologie en mensenrechten, zegt in een interview met Mowatin dat de Golflanden in de regio en daarbuiten grootschalig investeren in geavanceerde technologie. Op zichzelf is dat geen probleem, zolang ze het doen om hun economie te diversifiëren. Maar deze landen hebben een slechte staat van dienst op het gebied van de mensenrechten en zijn berucht vanwege de surveillance, desinformatie, manipulatie van sociale media, censuur et cetera waarmee ze hun burgers onderdrukken en hun het zwijgen opleggen. De investeringen roepen dan ook vragen op over de potentiële gevolgen voor de mensenrechten.
Repressieve houding
Het hoofd van het Centrum voor Mensenrechten in de Golfregio, Khaled Ibrahim uit Bahrein, ziet de toename van de investeringen door de Golflanden als een uiting van een repressieve houding. ‘Het is een tirannieke mentaliteit die vijandig staat tegenover de vrijheid van meningsuiting, en die geen geloof hecht aan het gezegde dat diversiteit van meningen rijkdom betekent,’ zegt hij. ‘Het is vooral bedoeld om onlineactivisten en burgers te monitoren en gevangen te zetten vanwege hun mening over de zittende macht die ze op sociale media uiten.’
Volgens James Shears, een Brits onderzoeker en docent politiek, veiligheid en technologie, dragen de landen in de Golf wereldwijd bij ‘aan digitale repressie door een reeks gerichte surveillance-instrumenten te ontwikkelen die het hun mogelijk maakt de inhoud van sociale en andere digitale media te monitoren.’ Volgens hem bieden die instrumenten wetshandhavers en nationale veiligheidsdiensten meer inzicht en informatie over politieke opponenten, dissidenten, journalisten en mensenrechtenactivisten. Hij voegt eraan toe dat de Golfstaten dergelijke investeringen niet alleen als wenselijk beschouwen omdat ze het regime versterken tegen de interne onrust en ontevredenheid waarvan de Arabische Lente een uiting was, maar ook omdat ze in geopolitieke zin voordelen bieden. Zo delen de landen hun ervaringen met digitale repressie met exporteurs van deze technologieën, waarvan China de belangrijkste is. De Golfstaten zeggen weliswaar bereid te zijn om voorwaarden als databescherming en cloudwetgeving op te stellen voor de toepassing van digitale technologieën en AI, maar over het algemeen dienen dergelijke wetten eerder nationale veiligheidsdoeleinden dan dat ze meer bescherming bieden voor persoonlijke privacy.
Deze landen verdoezelen volgens hem ‘hun wijdverbreide schendingen op het gebied van de mensenrechten’
De stap van de Golfstaten om te investeren in de ontwikkeling van kunstmatige intelligentie past ook uitstekend in het streven hun economie minder afhankelijk te maken van olie. Volgens een rapport van adviesbureau PwC kunnen de landen in de Samenwerkingsraad van de Arabische Golfstaten in 2030 ongeveer 23,5 miljard dollar tegemoetzien als hun investeringen in AI blijven groeien. Saoedi-Arabië en de VAE hebben inmiddels strategieën en doelstellingen op het gebied van AI geformuleerd, maar er zijn nog veel tekortkomingen die moeten worden aangepakt.
Khaled Ibrahim zegt dat landen in de Golf – en dan vooral de VAE en Saoedi-Arabië – wereldwijd ‘het meest uitgeven aan investeringen in technologieën als AI en gezichtsherkenning, die gericht zijn op het identificeren van ongewenste berichten en oppositieactiviteiten’. Deze landen verdoezelen volgens hem ‘hun wijdverbreide schendingen op het gebied van de mensenrechten’. James Shears bevestigt dat het gebruik van AI door de Golflanden vooral de nationale veiligheid betreft. Technisch gezien hangt de doeltreffendheid ervan volgens hem grotendeels af van verdere verfijning van opsporingsmethodes, bijvoorbeeld door met behulp van machinelearning stukjes informatie te koppelen, zodat er voorspellingen kunnen worden gedaan over het gedrag van individuen.
Controle en repressie
Ook het Arab Center Washington D.C. bevestigt dat de autoritaire regimes gebruikmaken van innovatieve methoden en digitale instrumenten voor controle en repressie. Veel van die technieken zijn afkomstig uit landen die vooroplopen met ‘digitale tirannie’, zoals China en Rusland, en van landen die investeren op het gebied van surveillance en bevolkingscontrole, zoals Israël, aldus het centrum. De Arabische landen zien China als voorbeeld, dat werkt met projecten zoals SkyNET en Sharp Eyes. China is bezig verschillende technologieën en zeer geavanceerde AI-instrumenten te integreren om enorme hoeveelheden gegevens te verzamelen en te analyseren. Het gaat om data afkomstig van videosurveillance, registratie van fysieke bewegingen, verzamelingen van beelden, databases met gezichtsherkenning en vingerafdrukken, telefoonverkeer, medische en financiële gegevens, onlinegedrag en gegevens uit het socialekredietsysteem.
Veel van die technieken zijn afkomstig uit landen die vooroplopen met ‘digitale tirannie’, zoals China en Rusland
Een onderzoeker van het Britse Royal Institute of International Affairs wijst ook op de gegevens die smart cities verzamelen over energieverbruik, verkeer en voetgangersverkeer via bewakingscamera’s en mobieletelefonienetwerken. Daarover zegt Shears: ‘Het combineren van deze gegevens biedt landen de mogelijkheid om individuen in de gaten te houden op een manier die voorheen onmogelijk was.’
Surveillance op zo’n grote schaal vereist ruime financiële middelen en een gecentraliseerd bestuur. In het Midden-Oosten zijn de VAE vooralsnog het meest enthousiast in de toepassing ervan. Het toch al alomtegenwoordige autoritaire bewind in de Emiraten maakt gebruik van smart city-technologie en van het zogenoemde Police without Policemen-programma, dat berust op geavanceerde digitale surveillancetechnieken.
Privécommunicatie
In het onderzoek van het Arab Center Washington D.C. wordt opgemerkt dat China zijn autoritaire technologische instrumenten al via de ‘Digitale Zijderoute’ heeft geëxporteerd naar zeker achttien landen, waaronder enkele in het Midden-Oosten: Egypte, Marokko, Qatar, Saoedi-Arabië en de VAE. Maar sinds het sluiten van de Abraham-akkoorden tussen de VAE en Israël is ook de spionage-industrie van Israël belangrijk voor de Golfstaten. Dat betreft vooral technologie die is gericht op het binnendringen van persoonlijke apparaten en het onderscheppen van privécommunicatie.
In eigen land maakt Israël gebruik van geavanceerde surveillance van Palestijnen en verzamelt het informatie door in te breken op vaste lijnen en smartphones en sms-berichten te onderscheppen. Pegasus, het Israëlische programma dat is gespecialiseerd in monitoring, tracking en spionage, en ook andere Israëlische spywaretechnologie wordt voornamelijk aangeschaft om journalisten en mensenrechtenactivisten in de gaten te houden. Het opvallendste voorbeeld daarvan was het hacken door Saoedi-Arabië en de Emiraten van de communicatiekanalen die Jamal Khashoggi gebruikte, voordat hij in het Saoedische consulaat in Istanboel werd vermoord.
Wat betreft digitale onderdrukking staat het Midden-Oosten er slecht voor
Wat betreft digitale onderdrukking staat het Midden-Oosten er slecht voor. De Digital Repression Index rangschikt zo’n honderdtachtig landen naar gebruik van digitale technologie voor politieke repressie. Vijf van de twintig slechtst scorende landen bevinden zich in het Midden-Oosten: de VAE, Saoedi-Arabië, Iran, Syrië en Jemen. En volgens de Freedom of the Net-index 2021, gepubliceerd door de Amerikaanse ngo Freedom House, behoren zeven landen in het Midden-Oosten en Noord-Afrika tot de twintig slechtst presterende landen op het gebied van internetvrijheid: Saoedi-Arabië, Iran, de VAE, Egypte, Bahrein, Soedan en Turkije.
De toenemende populariteit van zelfrijdende taxi’s heeft een keerzijde. Ze zijn vervuilend, creëren soms gevaarlijke situaties en eisen ruimte op. Ruimte die steden ook kunnen gebruiken voor een beter openbaarvervoersnetwerk, aldus transportonderzoeker David Zipper.
Toen de software-ingenieur Dan Afergan een paar weken geleden in San Francisco met wat vrienden in het café zat, kwam er iemand binnen die zei: ‘Er staat buiten een geblokkeerde Cruise met een pylon op de motorkap.’ Afergan ging meteen even kijken en inderdaad: een van de zelfrijdende taxi’s van Cruise, een dochter van General Motors, stond met knipperende lichten midden op straat met een oranje verkeerskegel op de motorkap. ‘Ik dacht dat het gewoon een flauwe grap was,’ zegt Afergan. ‘Maar een vriend zei: “Nee, ik heb hiervan gehoord.” Zelf had ik geen idee dat er ook mensen zijn die tegen zelfrijdende auto’s protesteren.’
Dit ‘kegelen’ is onderdeel van een campagne van Safe Street Rebel, een lokale actiegroep voor veilig verkeer die nu robottaxi’s op de korrel neemt. Volgens officiële cijfers rijden er in Californië 571 zelfrijdende taxi’s rond van Cruise en zijn rivaal Waymo, een dochter van Googles moederbedrijf Alphabet. Je bestelt zo’n taxi met een app en ze rijden vooral in San Francisco en omgeving. Door die gemeente zijn de twee taxibedrijven aan diverse beperkingen gebonden en daar willen ze nu vanaf. Dit stuit weer op bezwaren van de politievakbond, het gemeentelijke verkeersdepartement en de brandweer, die waarschuwen dat de robottaxi’s verontrustend vaak het verkeer ophouden en daarmee de hulpdiensten hinderen.
Toen de mensen van Safe Street Rebel doorhadden dat je zo’n geavanceerde auto vleugellam maakt door een pylon op de motorkap te zetten, spoorden ze met een filmpje op TikTok burgers aan om dat ook te doen. Dit wegwuiven als het zoveelste voorbeeld van weerstand tegen technologie zou een miskenning zijn van het belang van deze ophef. Voor het eerst voeren burgers, techbedrijven en ambtenaren nu een debat over of, en zo ja hoe je zelfrijdende auto’s in een dichtbevolkte stad kunt laten rondrijden. Dit is een gesprek dat hoognodig is, nu de technologie van zelfrijdende voertuigen nog in ontwikkeling is en voordat de robottaxi het leven in San Francisco en de rest van stedelijk Amerika verandert.
Veiligheid
In de utopische versie van het verhaal worden ritjes met een robottaxi zo gemakkelijk en goedkoop dat mensen zelf geen auto meer willen. Het meest aansprekende argument voor de robottaxi is de feilbaarheid van mensen achter het stuur. In een opiniestuk in de San Francisco Chronicle hemelde een van de CEO’s van Waymo vorige maand de veiligheid van zijn auto’s nog op, en Cruise beweerde in een paginagrote advertentie in The New York Times en andere kranten dat hun technologie de oplossing was voor de 42.795 verkeersdoden die vorig jaar in de VS zijn gevallen. (Beide bedrijven zijn niet scheutig met cijfers over hun bedrijfsvoering, wat het voor onafhankelijke onderzoekers lastig maakt om er een objectief oordeel over te vellen.) Maar zoals het nu staat leveren de robottaxi’s de handhavers in San Francisco vooral veel extra werk op. De voertuigen hebben rijstroken geblokkeerd, bussen en trams gehinderd, over een brandslang gereden en wegwerkzaamheden verstoord. Sinds juni 2022 zijn er bijna zeshonderd gevallen gemeld van robottaxi’s die spontaan stil bleven staan op de openbare weg, soms urenlang. En dat zijn alleen de gevallen waarvan melding is gemaakt bij de autoriteiten: het werkelijke aantal zou veel hoger kunnen liggen.
‘Die auto’s doen het goed in eenvoudige woonwijken, maar ze krijgen het moeilijk als de verkeerssituatie ingewikkelder wordt, en zeker in onverwachte situaties,’ zegt Jeffrey Tumlin, hoofd van het verkeersdepartement van de gemeente. Volgens Steven Shladover, een onderzoeker van UC Berkeley die Californische overheden over zelfrijdende voertuigen adviseert, zijn de auto’s heel geavanceerd. Maar, zegt ook hij, ‘je zult beslist situaties zien waarin de auto zich als een onervaren bestuurder gedraagt. Het is een jongere, nog geen volwassen automobilist.’
Cruise en Waymo pareren de kritiek door te wijzen op de staat van dienst van hun auto’s, die volgens hen veel minder brokken maken dan menselijke bestuurders. ‘Elke dag dat de inzet van deze levensreddende technologie wordt uitgesteld, heeft negatieve gevolgen voor de verkeersveiligheid,’ stelt Waymo.
Ondanks de huidige problemen wordt de zelfrijdende technologie steeds beter en worden er nieuwe lessen getrokken uit de enorme hoeveelheden data die zijn verzameld van voertuigen die de openbare weg op gaan. Maar ook al reden ze echt foutloos, hoe zou het leven eruitzien in een stad waarin het wemelt van de robottaxi’s?
Verkeersinfarct
Al voor de komst van de benzineauto was het op de straten van Amerika een drukte van belang. Voetgangers, koetsen en fietsers krioelden er door elkaar en je zag kinderen knikkeren en honkballen op straat. In de jaren 1920 namen miljoenen mensen nog de tram en telde het land meer dan 70.000 kilometer tramspoor. De auto was aanvankelijk alleen voor rijkelui weggelegd. Maar met de introductie van de T-Ford steeg de verkoop van auto’s in de VS van 181.000 in 1910 naar 4,5 miljoen in 1929. Ze gingen harder dan alle andere voertuigen op straat en vormden al snel een groot gevaar voor voetgangers en kinderen. In 1927 stierven 25.800 mensen bij auto-ongevallen, veel meer per hoofd van de bevolking dan tegenwoordig, hoewel toen veel minder Amerikanen een auto hadden.
De opkomst van de auto was funest voor de tram, die geen kant op kon als een auto het spoor blokkeerde. In de jaren vijftig was er van de Amerikaanse tramlijnen niet veel meer over. In 1960 vond nog maar 12 procent van het woon-werkverkeer plaats met het openbaar vervoer, in 2019 nog maar 5 procent.
Doordat de auto lang centraal stond in het beleid, zijn steden steeds viezer, gevaarlijker en minder aantrekkelijk geworden. In veel binnensteden gaat meer dan de helft van het oppervlak op aan wegdek en parkeerruimte voor auto’s, die daarmee ruimte innemen die anders beschikbaar zou zijn voor woningen, winkels, speeltuinen en parken. Veel steden proberen daar nu iets aan te doen. In Denver is per referendum besloten miljoenen vrij te maken voor het opknappen van trottoirs. En de hoofdsteden Phoenix en Madison willen beginnen met een snelbus om hun openbaar vervoer concurrerender te maken. De vooruitgang gaat met kleine stapjes, maar vooruitgang is er.
De gedachte dat deze auto’s de algehele verkeerssituatie zullen verbeteren, lijkt een illusie
Alleen wordt die vooruitgang bedreigd door de komst van zelfrijdende auto’s, omdat dat toch gewoon auto’s blijven. Of ze nu door mensen of software worden bestuurd, ze zijn vervuilend, ze hebben wegen nodig en ze vormen een gevaar voor voetgangers en fietsers. Peter Norton, historicus aan de universiteit van Virginia, ziet reden tot zorg: ‘Als de straten eenmaal gevuld zijn met robottaxi’s, loop je het risico dat een gemeente het niet meer nodig acht om voor goed openbaar vervoer te zorgen.’
En de gedachte dat deze auto’s de algehele verkeerssituatie zullen verbeteren, lijkt een illusie. In het kader van een onderzoek kregen dertien vrijwilligers in San Francisco een paar jaar geleden een week lang de beschikking over een auto met chauffeur, om zo het bezit van een zelfrijdende auto na te bootsen. In die ene week legden de proefpersonen nota bene 83 procent meer kilometers af dan voorheen. Als zelfrijdende auto’s ook zoveel meer vervoersbewegingen opleveren, zijn ze een ecologische ramp en kunnen ze een verkeersinfarct van ongekende omvang veroorzaken.
De afgelopen eeuw leert ons dat mensen met andere vervoermiddelen er bekaaid van afkomen als de openbare ruimte vooral op auto’s wordt ingericht. En dan maakt het waarschijnlijk niet uit of die auto’s zichzelf kunnen besturen of niet.
Volgens de Japanse filosoof Hiroshi Toya heeft Japan ‘een rotsvast vertrouwen’ in AI. In een interview met het Japanse dagblad Asahi Shimbun benadrukt hij dat we onze eigen verantwoordelijkheid in het oog moeten houden en ons eigen verstand moeten blijven gebruiken.
Op dit moment is de wereld verdeeld over de regulering van generatieve AI-systemen als ChatGPT. Hoewel de G7 afgelopen mei tijdens de top in Hiroshima pleitte voor ‘een betrouwbare AI’, voelden sommige landen, zoals Japan, er minder voor om deze nieuwe technologie aan allerlei regels te onderwerpen. ‘De Japanse maatschappij heeft een groot vertrouwen in AI,’ aldus een bezorgde Hiroshi Toya, filosoof en hoogleraar aan de Kansai University for International Studies. Hij maant bovendien tot voorzichtigheid: ‘Als we onze aandacht uitsluitend richten op ChatGPT, verliezen we de fundamentele veranderingen uit het oog die het gevolg zijn van het binnendringen van AI in onze maatschappij.’ Op welke veranderingen doelt hij dan?
ChatGPT wint snel terrein. Wat zijn volgens u de pro’s en contra’s ervan?
‘Zeggen dat ChatGPT alleen maar slecht is zou een simplistische constatering zijn die vooralsnog nergens op is gebaseerd. Het is in feite moeilijk te voorspellen of de app algemene ingang zal vinden, zoals Amazon of Gmail. Voorlopig zie ik ChatGPT vooral als een speeltje. Het probleem is volgens mij niet het programma zelf, maar wat wij, de maatschappij, ervan verwachten.
Wij mensen zijn behept met een extreem sterk verlangen om overal zo snel mogelijk antwoord op te krijgen. In die mate zelfs dat sommigen, volgens artikelen die ik heb gelezen, ChatGPT verwijten dat het programma er te lang over doet om een vraag te beantwoorden, terwijl het maar een kwestie van enkele minuten is. Dat je niet eens een paar minuten kunt wachten gaat toch alle perken te buiten? Onze maatschappij is geobsedeerd door onmiddellijke resultaten, zonder de tijd te nemen voor enige reflectie. Als filosoof zit ik regelmatig in gedachten verzonken met mijn armen over elkaar achter mijn bureau, maar dat geldt vandaag de dag als “inefficiënt”. Dingen goed en langzaam overdenken is steeds minder in trek.’
‘Ik denk dat het nodig is om altijd afstand te kunnen blijven nemen van AI en haar systemen’
Wat voor kwalijke gevolgen kan deze ontwikkeling hebben?
‘Als niemand er momenteel last van heeft, kun je waarschijnlijk denken dat het niet erg is. Maar als op een dag de door AI gemodelleerde ‘normaliteit’ sneuvelt, bijvoorbeeld door een ramp of een oorlog, worden we waarschijnlijk geconfronteerd met een periode van chaos. Dan zullen we zelf beslissingen moeten nemen om problemen op te lossen: zullen we tegen die tijd nog wel over een denkvermogen beschikken dat ons in staat stelt de beste keuzes te maken? In het verarmde en uitgeputte Duitsland van na de Eerste Wereldoorlog konden de mensen niet langer zelfstandig denken en lieten ze zich inpalmen door de nazi-ideologie, waardoor ze medeplichtig werden aan de Holocaust. Zullen we in het geval van een crisis in staat zijn te zeggen dat het oordeel van AI onjuist is? Ik denk dat het nodig is om altijd afstand te kunnen blijven nemen van AI en haar systemen. Als we onze aandacht uitsluitend op ChatGPT richten, verliezen we naar mijn mening de fundamentele veranderingen uit het oog die het gevolg zijn van het binnendringen van AI in onze maatschappij.’
Zijn de veranderingen die door ChatGPT zelf in gang worden gezet dan niet zo belangrijk?
‘Ten aanzien van maatschappelijke kwesties probeert ChatGPT een groot scala aan meningen te dekken. Stel je het programma bijvoorbeeld een vraag over de gelijkheid tussen vrouwen en mannen, dan zal het alleen de verschillende gezichtspunten op een rij zetten zonder er enige conclusie aan te verbinden. Ik heb de indruk dat het programma meer vragen oproept dan antwoorden geeft. In plaats van problemen op te lossen maakt het keuzes alleen maar moeilijker. Het is zonder twijfel in staat zinnen te produceren die menselijk lijken, maar die maken het ons eerder moeilijker dan makkelijker om beslissingen te nemen en keuzes te maken. Aan genderkwesties kleeft een groot aantal verschillende aspecten, en elk standpunt dat je erover inneemt kan relatief gevoelig zijn. We moeten de verantwoordelijkheid voor onze keuzes nemen.’
Zijn de antwoorden die AI geeft niet op zichzelf problematisch?
‘Voordat we voor een bepaald antwoord kiezen hebben we natuurlijk de vraag al geformuleerd. Als we AI de voorwaarden van de discussie laten bepalen, onttrekken we ons aan onze verantwoordelijkheid in dezen. Het is gevaarlijk om te geloven dat ChatGPT alle aspecten van een kwestie in overweging neemt. Ik vrees dat we steeds minder goed in staat zullen zijn om andere keuzes en gezichtspunten onder ogen te zien dan die welke door AI worden voorgesteld. ChatGPT geeft antwoorden die zijn gebaseerd op bestaande internetgegevens, zonder de juistheid daarvan ter discussie te stellen.’
Baart het gebruik van ChatGPT zorgen op ethisch gebied?
‘In de huidige situatie niet. In de toekomst zal het misschien voor problemen zorgen op politiek en juridisch gebied. Sommige parlementsleden hebben al ChatGPT gebruikt voor debatten, maar dat betrof tot dusver alleen de teksten die ze voorlazen. Wanneer je bijvoorbeeld de verdeling van de socialezekerheidsgelden aan AI zou toevertrouwen, zou dat discriminatie in de hand kunnen werken, zoals een verlaging van de uitkeringen aan senioren omdat hun minder levensjaren resten. Zolang debatten en beslissingen op politiek en juridisch gebied onder menselijke verantwoordelijkheid blijven vallen en het systeem niet instort, geloof ik niet dat we bang hoeven te zijn voor een ernstige ethische crisis.’
Het belangrijkst blijft het om te weten of de gebruikers de beslissingen die door AI worden ingegeven als hun eigen beslissingen beschouwen
Sommige mensen zullen AI misschien gebruiken zonder daarvoor uit te komen.
‘Inderdaad. Het belangrijkst blijft het om te weten of de gebruikers de beslissingen die door AI worden ingegeven als hun eigen beslissingen beschouwen en de verantwoordelijkheid aanvaarden voor de acties die ze ondernemen. Het zou onverantwoordelijk en funest zijn om te zeggen: “We kunnen er niets aan doen want het is een suggestie van AI”, zonder dat we stilstaan bij onze eigen verantwoordelijkheid.
Wat Japan betreft, dat is een land dat een rotsvast vertrouwen heeft in AI. In westerse fictie met AI als thema wordt vaak de nadruk gelegd op de dreiging die ervan uitgaat, en op de menselijke verantwoordelijkheid voor het gebruik ervan. In Japan, waar de invoering van AI redelijk soepel verloopt, wordt daar niet vaak bij stilgestaan. Japanners lijken deze nieuwe ontwikkeling lijdzaam over zich heen te laten komen. “Als we er toch niets tegen kunnen doen, kunnen we er maar beter in meegaan,” zeggen ze waarschijnlijk bij zichzelf. Het is van wezenlijk belang om de kwestie te relativeren, om te begrijpen wat er op mondiaal niveau wordt bediscussieerd, en niet in hysterische speculaties te verzinken die de zaak alleen maar erger maken.’
Dankzij de geavanceerde apparatuur van onder andere het Veldhovense techbedrijf ASML worden er al decennialang steeds kleinere en fijnere chips gemaakt. Maar niet voor lang meer, waarschuwen experts. ‘We lopen nu tegen de fysieke grenzen aan. Straks zitten we op het niveau van een atoom.’
In een ‘cleanroom’ op het uitgestrekte terrein van ASML in Veldhoven ademen tientallen mannen en vrouwen in isolatiepakken lucht in die nog tienduizend keer zuiverder is dan die in een operatiekamer. Ze werken er aan het eerste prototype van het nieuwste product van deze apparatenmaker voor chipfabrikanten: de nieuwste generatie fotolithografiemachines op basis van extreem ultraviolet licht (EUV). Die produceert straks halfgeleiders door transistors op een schijfje silicium te ‘printen’ die bijna net zo klein zijn als een menselijk chromosoom. Dit eerste EUV-apparaat gaat dit jaar voor meer dan 350 miljoen euro naar Intel.
Aan de lithografiemachines van ASML danken we het bestaan van niet meer weg te denken apparaten zoals de iPhone en de geavanceerde chips van Nvidia waar ChatGPT op draait. Er zijn maar drie bedrijven ter wereld (Intel, Samsung en TSMC) die het soort processoren kunnen maken die voor zulke apparaten nodig zijn. En alle drie zijn ze daarvoor afhankelijk van de geavanceerde apparatuur van ASML.
Dankzij de innovaties van ASML kunnen transistors steeds kleiner worden, en de chips als gevolg daarvan krachtiger. Het hoge tempo van de technologische vooruitgang van de afgelopen vijftig jaar hebben we te danken aan de exponentiële groei van het aantal transistors op halfgeleiders. Die toename werd in 1965 al voorspeld door een van de oprichters van Intel, Gordon Moore: hij beweerde destijds dat het aantal transistors op een chip ongeveer elk jaar zou verdubbelen. Die voorspelling, die hij later bijstelde naar eens in de twee jaar, staat bekend als de wet van Moore.
De wet van Moore
Intel was grotendeels zelf verantwoordelijk voor die ontwikkeling, met zijn onophoudelijke innovaties op het vlak van ontwerp en productie van halfgeleiders. Maar dat de wet van Moore nog steeds opgaat, wordt tegenwoordig meestal op het conto van ASML geschreven. Het is aan de machines van het Nederlandse bedrijf te danken dat chips ter grootte van een vingernagel nu wel vijftig miljard transistors kunnen bevatten. ‘De drijvende kracht achter de wet van Moore? Dat is in feite lithografie,’ zegt Jamie Mills O’Brien van Abrdn, een van de vijftig grootste investeerders in ASML.
Die verschuiving wordt weerspiegeld in de beurswaarde van de twee bedrijven. Het aandeel ASML, dat aan de beurs genoteerd staat in Amsterdam en New York, is nu ongeveer twee keer zoveel waard als dat van Intel. Bij de belangrijkste trends van de laatste tien jaar, smartphones en kunstmatige intelligentie (AI), viste Intel goeddeels achter het net, doordat de Amerikaanse chippionier het tempo niet kon bijbenen van de Taiwanese chipmaker TSMC, een van de eerste gebruikers van de EUV-technologie van ASML.
Maar chipproducenten staan nu voor een enorme uitdaging. Ze liggen inmiddels achter op het door de wet van Moore voorspelde schema: het tempo van verdubbeling ligt tegenwoordig dichter bij eens in de drie jaar. Na de massaproductie van de nieuwste 3-nanometerchips voor de iPhones van dit jaar wordt de volgende stap een volgens sommigen nog grotere sprong voorwaarts naar 2 nanometer in 2025. ‘Maar kom je eenmaal op 1,5 of misschien 1 nanometer, dan is het definitief afgelopen met de wet van Moore,’ zegt Ben Bajarin, technologieanalist bij Creative Strategies in Silicon Valley. ‘Dan houdt het gewoon op.’
‘Elke twee of drie jaar een nieuwe generatie chips: ook de complexiteit neemt exponentieel toe
Voorspellingen over het einde van de wet van Moore worden al jarenlang gelogenstraft door chipontwikkelaars. Maar nu begint het aantal transistors dat op een siliciumschijfje wordt gepropt de grens te naderen van wat fysiek nog mogelijk is. Sommigen vrezen dat het aantal productiefouten daardoor toeneemt. De ontwikkelingskosten stijgen in ieder geval wel.
‘De economische grondslag onder de wet van Moore valt weg,’ aldus Bajarin. Chipontwerpers zijn de laatste jaren daarom druk op zoek naar andere manieren om het tempo van de toenemende rekenkracht vast te houden. Bijvoorbeeld door nieuwe materialen en ontwerptechnieken uit te proberen, en door de AI die bestaat bij de gratie van de nieuwste generatie chips in te zetten voor het ontwerpen van nieuwe chips. Wat op het spel staat, is niet alleen het vasthouden van het innovatietempo dat al decennialang ten grondslag ligt aan het succes van de technologiesector, en daarmee van de voortdurende economische groei en radicale verbeteringen in ons dagelijks leven. Ook allerlei nieuwe ontwikkelingen, van kunstmatige intelligentie en het ‘metaversum’ tot de lang beloofde innovaties op het vlak van schone energie en autonoom vervoer, kunnen hun belofte alleen waarmaken als chips steeds krachtiger en efficiënter worden.
‘Ooit zal er een einde aan moeten komen,’ waarschuwde de in maart overleden Moore in 2015, bij de vijftigste verjaardag van zijn oorspronkelijke artikel. ‘Zo’n exponentiële ontwikkeling kan niet eindeloos voortduren.’
Beurswaarde
ASML houdt de wet van Moore nog in leven, maar dat vergt miljarden aan investeringen en onvoorstelbare staaltjes technisch en natuurkundig vernuft. De voormalige Philips-dochter begon haar bestaan in de jaren tachtig in houten barakken op het parkeerterrein van het moederbedrijf in Eindhoven. Tegenwoordig is het met een beurswaarde van zo’n 275 miljard euro het grootste technologiebedrijf van Europa. Vanuit de hoofdvestiging in Veldhoven, op slechts een paar kilometer afstand van waar die oude noodgebouwen stonden, produceert ASML nu machines die wel vijftigduizend keer per seconde minuscule druppeltjes gesmolten tin kunnen verdampen, om licht met een golflengte van 13,5 nanometer te produceren. Zo’n bundel EUV-licht wordt dan in een vacuümruimte weerkaatst via een reeks spiegels, versmald en scherpgesteld op een siliciumschijfje, een zogenaamde wafer.
‘De wet van Moore is een economische wet: elke twee tot drie jaar kun je bij gelijkblijvende kosten de prestaties verdubbelen,’ zegt ASML-topman Peter Wennink. Maar, zegt hij erbij, ‘er is nog een ander aspect van de wet van Moore waar niemand het over heeft: de wet van de complexiteit. Elke twee of drie jaar een nieuwe generatie chips, dat wordt er niet makkelijker op. Ook de complexiteit neemt dus exponentieel toe.’
Enorme investeringen
De nieuwe High-NA-machine is de laatste vrucht van ASML’s enorme investeringen in onderzoek en ontwikkeling – die in 2022 met 30 procent stegen tot 3,3 miljard euro. High-NA slaat op de hogere ‘numerieke apertuur’, ofwel het aantal hoeken waaronder het licht kan worden omgebogen en verstuurd: hoe hoger dat is, hoe kleiner de transistorpatronen die op een wafer kunnen worden geprint.
Voor zijn huidige EUV-machines heeft ASML maar vijf potentiële afnemers: TSMC in Taiwan, Samsung en SK Hynix in Zuid-Korea en Intel en Micron in de VS. Alle vijf hebben ze het nieuwste model besteld. Met zijn monopolie op EUV-machines en zijn rol als grootste producent van DUV-machines (diep-ultraviolet, onmisbaar voor de productie van grotere en breder toegepaste chips in bijvoorbeeld auto’s en huishoudelijke apparaten) is ASML niet alleen populair in Silicon Valley, maar ook bij beleggers. De winstcijfers van het bedrijf zijn in de afgelopen vijf jaar meer dan verdubbeld en de aandelenkoers is in diezelfde periode navenant gestegen met 300 procent.
Momenteel is het bedrijf een speelbal in de felle geopolitieke strijd tussen de VS en China en is er sprake van een dip in de vraag naar chips, doordat de hausse tijdens de pandemie heeft geresulteerd in een voorraadoverschot. Toch zet ASML in op een verdubbeling van de omvang van de markt voor halfgeleiders in de komende jaren: van 600 miljard dollar nu naar 1,3 miljard in 2030. Het bedrijf heeft een orderportefeuille van 40 miljard dollar, wat erop wijst dat er nog steeds vraag naar zijn producten is, en is van plan tot 2025 meer dan 4 miljard euro te investeren in research & development, om zijn innovatietempo vast te houden.
Als dit alles gevaar loopt door het dreigende einde van de wet van Moore, dan is dat aan Wennink niet te merken. Hij maakt zich daar ‘helemaal geen zorgen’ over, zegt hij, maar geeft toe dat de verwachting van voortdurende vooruitgang de ‘grootste concurrent’ voor zijn bedrijf is. ‘Wij leveren de duurste machine in het productieproces,’ zegt hij. ‘Als wij onze klanten niet in staat stellen de kosten te verlagen of de waarde te verhogen, zullen ze alternatieven zoeken.’
Een werknemer bekijkt een chip die nog met het menselijk oog te zien is.
Chipontwerpers anticiperen daar al op. ‘Er zijn allerlei gereedschappen om meer transistors op een chip te kunnen proppen,’ zegt Nigel Toon, hoofd van de Britse start-up Graphcore, die chips maakt voor AI-toepassingen. ‘De wet van Moore loopt misschien op zijn eind, maar daarmee komt er nog geen einde aan de innovatie,’ zegt Hassan Khan, die aan de Carnegie Mellon-universiteit leiding geeft aan het onderzoek naar halfgeleiders en toeleveringsketens voor het Amerikaanse National Network for Critical Technology Assessment. ‘Technologische vooruitgang wordt vaak gelijkgesteld aan de wet van Moore, alsof innovatie alleen mogelijk is door steeds goedkopere transistors. Maar de mens is slim in het opsporen van knelpunten en het vinden van manieren om die te omzeilen.’
Dankzij het type processor waarmee Intel groot is geworden, konden er decennialang apparaten worden ontworpen die een soort Zwitsers zakmes waren, alleskunners zoals de pc en de smartphone. Maar ‘de verwevenheid van hardware en software is weer in opkomst,’ zegt Ondrej Burkacky, die mede leiding geeft aan de semigeleiderdivisie van McKinsey. Het bekendste voorbeeld daarvan is misschien wel de iPhone. De mate waarin die zich altijd weet te onderscheiden van smartphones die op Android draaien, berust voor een belangrijk deel op chips die speciaal voor de iPhone zijn ontworpen. Apple kan specifieke softwarefuncties voor zijn iPhone ontwikkelen in samenwerking met zijn eigen chipontwerpers, een team dat inmiddels al duizenden mensen telt.
Voor fabrikanten van Android-telefoons is dat lastiger, want het besturingssysteem van Google moet duizenden verschillende telefoons ondersteunen, van eenvoudige modelletjes tot Samsungs nieuwste paradepaardje van meer dan 1000 dollar. De algemene standaardchips van de Britse chipontwerper Arm worden door Apple speciaal toegesneden op betere prestaties of een langere batterijduur in de iPhone. Apple is daar zo goed in geworden dat het in 2020 de Intel-chips in zijn Macs kon verruilen voor een eigen chip op basis van het Arm-model.
Hogere prestaties
Omdat softwareontwerpers steeds hogere prestaties voor bepaalde taken verlangen, gaan sommige bedrijven nog verder in het herzien van de ‘architectuur’ van de chip, de fundamentele wijze waarop processoren zijn ontworpen en opgebouwd. Een bedrijf als Graphcore kan ‘met een schone lei beginnen,’ zegt Toon. ‘Je moet beter nadenken over de vraag wat de geschikte architectuur is voor een specifieke applicatie.’
Nvidia, het grootste halfgeleiderbedrijf ter wereld, met een beurswaarde die onlangs de 1 biljoen dollar aantikte, deed eerst jarenlang ervaring op met grafische kaarten voor nichemarkten van gamers en wetenschappers. Het begon pas echt goud geld te verdienen toen zijn grafische processoren onmisbaar bleken voor elk bedrijf dat AI ontwikkelt. Zowel voor AI als voor het genereren van computerbeelden is de door Nvidia toegepaste techniek voor ‘parallelle verwerking’ uitermate geschikt: daarbij kunnen meerdere repetitieve taken – zoals het weergeven van veelhoeken of het uitvoeren van algoritmes – tegelijkertijd worden verricht.
Onmogelijke problemen
In de eerste dertig jaar van zijn bestaan was Nvidia volgens topman en medeoprichter Jensen Huang ‘het bedrijf dat je belde voor het oplossen van haast onmogelijke problemen’. Het jammere was alleen dat het daarmee nichemarkten bediende die ‘allemaal piepklein waren’, zoals die van de computationele biologie. ‘Ons bedrijf werd wel getypeerd met de slogan: oplossingen voor de problemen die geen geld opleveren,’ zegt hij. ‘En toen kwam er ineens een eind aan de wet van Moore. Nu zijn wij hét computerbedrijf dat je nodig hebt voor groei.’
Maar omdat innovaties op chipgebied nu vaak specifiekere toepassingen hebben, worden doorbraken strenger geheim gehouden en zijn ze minder snel geschikt voor brede markttoepassingen. ‘In de jaren negentig en de eerste jaren van deze eeuw waren de kosten per transistor en de mogelijkheden om complexere chips te bouwen zo’n beetje voor de hele sector gelijk,’ zegt Khan.
Tegenwoordig ‘is rekenkracht minder op algemeen gebruik toegesneden. Als ik chips optimaliseer voor AI, kan dat GPT efficiënter of krachtiger maken, maar heeft het misschien geen effect op de rest van de economie.’
Een ander belangrijk terrein van innovatie zijn chips in de vorm van ‘pakketjes’. In plaats van elk onderdeel op een en dezelfde wafer te printen, zodat je een zogenaamd ‘system on a chip’ krijgt, prijzen halfgeleiderbedrijven nu de mogelijkheden aan van ‘chiplets’, kleinere bouwstenen die met elkaar gecombineerd kunnen worden tot een groter geheel. Dat geeft meer flexibiliteit bij het ontwerp en de inkoop van onderdelen. Intel noemt chiplets ‘de manier om de wet van Moore in het komende decennium en daarna in stand te houden’. Het riep vorig jaar een consortium bijeen van chipmakers en ontwerpers, waaronder TSMC, Samsung, Arm en Qualcomm, om standaarden op te stellen voor de bouw van deze lego-achtige processoren.
De truc
Volgens Richard Grisenthwaite, hoofd architectuur bij chipontwerper Arm, is een van de voordelen van chiplets ten opzichte van de ‘monolithische’ traditionele chips dat bedrijven daarin complexe en dure processoren kunnen combineren met oudere en goedkopere. De truc, waarschuwt hij, is om dan met die oudere en goedkope onderdelen meer te besparen dan je kwijt bent aan de extra kosten van het combineren van componenten.
Maar nieuwe ideeën leiden ook weer tot nieuwe problemen. Een grote uitdaging bij veel van deze innovaties is volgens Burkacky van McKinsey dat ze vaak grotere chips opleveren, wat dan weer leidt tot een groter oppervlak dat foutjes kan bevatten. ‘Een defect is meestal een onzuiverheid, een deeltje uit de lucht of uit het chemische proces dat op het oppervlak valt en een chip onbruikbaar kan maken,’ zegt hij. ‘Hoe groter de chip, hoe groter die kans.’
‘We lopen nu tegen de fysieke grenzen aan. Straks zitten we op het niveau van een atoom’
Dat kan fataal zijn voor de productieopbrengst van halfgeleiderfabrikanten: die kan volgens Burkacky zomaar dalen tot 40 of 50 procent, waardoor een toch al kostbaar proces nog moeilijker economisch rendabel te maken wordt. Grotere chips met meer rekenkracht verbruiken ook meer stroom en genereren in een datacentrum zo veel hitte dat het radicaal nieuwe en energie slurpende koelsystemen zoals dompelkoeling vergt om een optimale prestatie te garanderen.
Aan het andere eind van het spectrum kan bij kleinere chips volgens sommige onderzoekers de betrouwbaarheid weer in het geding zijn. In 2021 publiceerde een team van Google het artikel ‘Cores that don’t count’ (‘processorkernen die niet meetellen’). Het was de technici in datacentra namelijk opgevallen dat sommige chips diep in de enorme datacentra ‘onvoorspelbaar’ gedrag vertoonden. ‘Naarmate de fabricage [van chips] naar steeds kleinere afmetingen tendeert, zien we soms rekenfouten opduiken die in de productietests niet naar voren kwamen’, schreef een team Google-ingenieurs onder leiding van Peter Hochschild. ‘Erger nog is dat dit vaak “stille” fouten zijn: het enige symptoom is een foutieve berekening.’ Hochschild concludeert dat ‘de diepere oorzaak’ gelegen is in ‘de steeds kleinere afmetingen’, waarbij de grenzen van het haalbare worden genaderd, in combinatie met de ‘immer groeiende complexiteit van de architectuur’.
Sprong voorwaarts
Instandhouding van de wet van Moore ‘was tot nu toe een uitvoeringsuitdaging’, zegt Burkacky. ‘Ik wil daar niets aan afdoen, het was een razend lastige klus, maar we lopen nu tegen de fysieke grenzen aan. Straks zitten we op het niveau van een atoom. Dan is het volgens de huidige natuurkundige inzichten wel einde verhaal.’ Ooit kunnen kwantumcomputers misschien de lang beloofde sprong voorwaarts in rekenkracht maken die vergelijkbaar zal zijn met de vooruitgang op basis van silicium sinds de jaren zestig. Maar zelfs de meest optimistische pleitbezorgers daarvan geven toe dat het waarschijnlijk nog meer dan tien jaar duurt voordat kwantumcomputers geschikt zijn voor alledaagse praktische doeleinden.
Ondertussen is Toon optimistisch dat chips zoals die van Graphcore tot nieuwe vooruitgang kunnen leiden. ‘Ik denk dat we computers gaan bouwen en AI-types gaan ontwerpen die zo krachtig zijn dat we daardoor de werking van moleculen zullen doorgronden, en dan gaan we met behulp van die AI-computers moleculaire computers bouwen,’ zegt hij. ‘Dat hele idee van de singulariteit [het moment dat AI de mens voorbijstreeft in intelligentie] is gelul, maar de gedachte dat je AI kunt gebruiken om de computertechniek verder te brengen, is heel praktisch.’
Deze website gebruikt cookies. Door de site te gebruiken gaan we er vanuit dat je ze accepteert. OK
Manage consent
Over onze cookies
Deze website gebruiks cookies die de gebruikservaring verbeteren. De cookies die we als noodzakelijk categoriseren worden opgeslagen door je browser en zijn essentiëel voor een goede werking van de basisfuncties van deze website. We gebruiken ook third-party cookies die ons helpen te analyseren hoe deze website gebruikt wordt. Deze cookies kunnen ook voor marketingdoeleinden worden gebruikt. Ze worden alleen door je browser opgeslagen als je daar toestemming voor geeft.
Onze noodzakelijke cookies zijn essentiëel voor het goed functioneren van deze website. De basisfuncties en beveiliging van deze website zijn hiervan afhankelijk. Deze cookies slaan geen persoonlijke informatie op.
