Alleen betalende abonnees kunnen de functie nog gebruiken
Grok, de AI-tool van Elon Musk, heeft de functie voor het maken van afbeeldingen voor het overgrote deel van de gebruikers uitgeschakeld. Aanleiding voor dit besluit is de wijdverspreide kritiek over het gebruik ervan voor het creëren van expliciete seksuele en gewelddadige beelden, schrijft The Guardian.
De tool werd gebruikt om afbeeldingen van vrouwen te manipuleren, waarbij hun kleding werd verwijderd en ze in geseksualiseerde posities werden geplaatst. Deze functie is nu uitgeschakeld, behalve voor betalende abonnees.
Dit betekent dat de overgrote meerderheid van de gebruikers van het platform geen afbeeldingen meer kan maken met Grok. Degenen die dat wel kunnen, hebben hun volledige gegevens en creditcardinformatie opgeslagen bij X, zodat ze kunnen worden geïdentificeerd als de functie wordt misbruikt.
Onderzoek van The Guardian toonde aan dat de tool werd gebruikt om pornografische video’s van vrouwen te maken zonder hun toestemming, evenals afbeeldingen van vrouwen die werden neergeschoten en gedood.
Duizenden geseksualiseerde afbeeldingen van vrouwen zijn de afgelopen twee weken zonder hun toestemming gemaakt, nadat de functie voor het maken van afbeeldingen van Grok eind december was bijgewerkt. Eigenaar Musk heeft herhaaldelijk te maken gehad met publieke oproepen om de functie te verwijderen of te beperken, maar tot nu toe heeft de sociale media-app hier geen actie tegen ondernomen.
Er bestaat kunstmatige intelligentie die buiten big tech om wordt ontwikkeld. In Chili bouwen meer dan twintig Latijns-Amerikaanse landen aan Latam-GPT, een open en traceerbaar AI-model dat hun eigen geschiedenis en cultuur centraal zet.
Wie wil mag naar binnen. Bijna iedereen komt uit nieuwsgierigheid. Maar deze man, die vooralsnog wantrouwig is en aan een leeg tafeltje gaat zitten, komt met de bedoeling om het systeem te foppen. Hij heeft zich voor een willekeurige laptop geïnstalleerd. Verder is de tafel leeg. De laptop is door wetenschappers van het vasteland meegenomen. Op het scherm zie je twee kolommen. In de ene mag hij een woord schrijven. Eén enkel woord, maakt niet uit welk. Net als diverse andere nieuwsgierigen die al zijn langsgekomen en zullen blijven langskomen in de loop van de dag.
De wetenschappers, die toekijken hoe hij daar zit, hebben verteld dat het gaat om kunstmatige intelligentie. Ze zijn hier niet voor het eerst. Een jaar eerder, in november 2023, kwamen ze al eens uit Santiago op uitnodiging van leden de Taalacademie van het eiland Rapa Nui [Paaseiland], om een woordenboek te maken dat de oude taal, die op sterven na dood is, nieuw leven in te blazen. Er zijn nog geen tweeduizend sprekers meer over op de hele wereld, bijna allemaal op het eiland zelf, de helft ouder dan veertig, terwijl nog maar een op de tien kinderen daar de taal verstaat.
En nu zit hier die wantrouwige man. Hij heeft zijn woord al gekozen. Een woord dat niet bestaat. Hij heeft er goed over nagedacht: het gaat om een woord dat nog nooit iemand op Rapa Nui heeft uitgesproken. Dat niets te maken heeft met hun leven of hun wereld. Hij brengt zijn vingers naar het toetsenbord en tikt: astronaut.
Even gebeurt er niets. De machine denkt na. Of niet. Het lijkt of hij nadenkt: hij is aan het verwerken. Het woord bestaat niet. Niemand heeft ooit ‘astronaut’ gezegd in het Rapa Nui. Maar de machine doet wat hij moet doen. Op het scherm voor de wantrouwige man verschijnen twee woorden: ha’ere hetu’u – wandelaar van de sterren. Astronaut bestaat niet in het Rapa Nui, maar de machine heeft iets vergelijkbaars bedacht en de eerst zo wantrouwige man is gefascineerd.
‘Wat een mooie vertaling,’ zegt hij.
Ook de wetenschappers in het vertrek zijn gefascineerd. Ze zien dat hun app leert en werkt. En dat geldt ook voor hun werkmethode. Ze weten ook dat ze iets veel groters in handen hebben.
Latam-GPT
‘Ik wil dat we allemaal horen over Latam-GPT,’ zegt Ben Cashdan, een cineast en activist uit Zuid-Afrika, die optreedt als gastheer en uitnodigend gebaart naar Alexandra García. ‘In Chili proberen ze een eigen model op te zetten. Wij wensen ze succes bij het uitdagen van de grote en machtige bedrijven. Wat is jullie doel?’ García glimlacht en knikt. De jonge biochemicus is naar deze bijeenkomst in Genève gekomen om uit te leggen waar ze mee bezig zijn in het Cenia, het Nationaal Centrum voor Kunstmatige Intelligentie in Chili, waar zij werkt aan haar postdoc en de dataploeg aanvoert.
‘We proberen een nieuw model te bouwen, ja. Een gezamenlijk model,’ zegt ze. ‘We proberen contact te leggen met alle instanties in Latijns-Amerika. We vinden dat modellen als ChatGPT, Gemini of Claude, die we allemaal gebruiken, onze regio niet vertegenwoordigen zoals wij dat willen. Ze spreken Spaans, maar onze cultuur en kennis zien we er niet in terug.’
Hierover is men komen discussiëren in het hoofdkantoor van de Wereldorganisatie voor Intellectuele Eigendom (WIPO), die valt onder de Verenigde Naties.
‘Het huidige verhaal wil doen geloven dat de enig mogelijke AI die is van de vijf bigtechbedrijven die we allemaal kennen. En die een roofmodel hebben om aan hun data te komen. Maar er zijn een heleboel kleinere AI-projecten die levensvatbaar zijn en culturele diversiteit weerspiegelen.’
Beatriz Busaniche, een Argentijnse activist op het gebied van digitale rechten, steekt haar vinger op. ‘Ja,’ zegt ze. ‘Er is sprake van een wedloop, dat is zo. Waar het om gaat, is dat niet alle neuzen dezelfde kant op staan.’
García brengt het gesprek terug op Latam-GPT en legt uit waarin het zich onderscheidt. ‘Voor ons is het grootste probleem de weergave en transparantie van data. Als je in de technische rapporten van de grote bedrijven leest waar zij hun data vandaan halen, word je geen cent wijzer. Er staat dat die uit boeken en van Wikipedia komen. We tasten in het duister als we die technologie gebruiken.’
In dit gat, het ontbreken van betrouwbare bronnen, wil Latam-GPT springen. Het is een deel van hun kracht: dat ze hun dataset opbouwen met wetenschappelijke, openbare en particuliere instellingen uit de regio, naast een eigen taalmodel dat de gegevens verwerkt en coherente tekst kan genereren, vragen kan beantwoorden, kan vertalen en verschillende taken met betrouwbare informatie kan uitvoeren.
‘Voor ons is het grootste probleem de weergave en transparantie van data’
Het taalmodel van Latam-GPT zal zijn bron openhouden. Het omvat 70 biljoen parameters, elk met een numerieke waarde, een instructie die het systeem geschikt maakt om te leren specifieke taken uit te voeren. De inhoud is vergelijkbaar met die van Deep Seek (dat tussen de 70 en 90 biljoen parameters heeft), maar haalt het niet bij Gemini (200 biljoen), ChatGPT (175 biljoen), of Claude (130 biljoen).
Het einddoel van Latam-GPT is niet alleen een grote chatbot met algemene thema’s. De dataset en het taalmodel moeten beschikbaar zijn voor iedereen die de handschoen opneemt en afwijkende apps wil ontwerpen. De vertaaltool in het Rapa Nui was een eerste experiment van die aard, dat het Cenia uitvoerde samen met het Centrum voor Toegepaste Antropologie van de Katholieke Universiteit van Chili. Ze verwachten veel meer tools te kunnen ontwikkelen.
Het model verschilt qua schaal en filosofie van alles wat tot nu toe is gedaan. García twijfelt niet: ‘Wij proberen de manier waarop AI zich ontwikkelt te veranderen.’
Mayonaise
Latam-GPT zal tegen de herfst worden gelanceerd. In juni 2025 worden de aanwezige buitenlandjournalisten in Santiago toegesproken door de Chileense minister van Wetenschap, Technologie, Kennis en Innovatie en de directeur van het Cenia. Omdat het project moeilijk uit te leggen is, kiest iedereen zijn eigen metaforen. Ook Álvaro Soto spreekt de journalisten toe. Vandaag draagt hij een donker overhemd, maar op bijna alle officiële foto’s zie je hem in een T-shirt met korte mouwen en een ketting om zijn hals. Hij woonde een groot deel van zijn leven in de Verenigde Staten, waar hij in de cognitieve robotica werkte tot hij bedacht dat het geen zin had om te doen wat iedereen in Noord-Amerika al deed. Hij kon zich beter inzetten voor iets wat niemand in het Zuiden deed. Terug in Chili richtte hij in 2021 het Cenia op.
‘Eén ding moet je goed begrijpen over deze technologie,’ zegt hij. ‘Ik zie het als het maken van mayonaise. Je doet olie en eieren in een kom, en roeren maar. Alleen ging het bij AI niet om eieren maar om data, algoritmes. Die almaar door elkaar werden geroerd. Tot iemand zich afvroeg wat er gebeurde als we sneller gingen roeren. En ze voegden meer berekeningen en meer data toe. Zo veel, dat er sprake was van miljarden operaties en er ineens een zelflerend proces ontstond dat we niet eerder hadden gezien. Dat is wat er met ChatGPT gebeurde. Iets waar de hele wereld versteld van stond.’
Het Cenia wordt gefinancierd door de Chileense regering en internationale instanties. Er zijn momenteel ruim honderd wetenschappers van vijftien Chileense universiteiten aan verbonden, die werken aan diverse AI-gerelateerde initiatieven. Minstens dertig van hen, mannen en vrouwen in verschillende stadia van hun leerproces, zijn betrokken bij Latam-GPT en doen het mensenwerk, verdeeld over vier fases, waaronder ethiek. Het niet-menselijke werk, de fase waarin het systeem zelflerend wordt, vindt plaats in een computercentrum van de Universiteit van Tarapacá, dat is opgezet in de woestijnachtige provincie Arica, aan de grens met Bolivia.
De informatie bestrijkt een breed aantal onderwerpen, uiteenlopend van wetenschap, politiek en sport tot kunst, gezondheid en recreatie. Latam-GPT zal een ‘antigedicht’ van Nicanor Parra nauwkeurig kunnen begrijpen, kunnen vertellen waarom Chili buiten de boot viel bij het laatste WK voetbal, weten wie Tía Pikachu is en wat de nieuwe rechten in de regio zijn, en hoe het zit met de diverse posities van de inheemse gemeenschappen wat betreft recht op water in de Lithiumdriehoek.
Nog een andere Argentijnse bijdrage van was cruciaal voor de Cenia-ploeg. Toen zij Álvaro Soto leerde kennen, vroeg Beatriz Busaniche hem naar het beleid van Latam-GPT ten aanzien van intellectueel eigendom. De directeur van Cenia vroeg of zo’n beleid dan nodig was. Busaniche waarschuwde hem: een van de grote problemen waar big tech mee kampt, zijn de vele aanklachten uit de culturele sector vanwege het gebruik en de invoer van hun werk in de databases waarmee vervolgens winst wordt gemaakt.
Auteursrecht
In Latijns-Amerika zitten de experts op dit gebied aan de andere kant van de Río de la Plata [de natuurlijke grens tussen Argentinië en Uruguay]. Zo is Data Uruguay een ngo die zich bezighoudt met technologie en mensenrechten. In 2024 sloot de organisatie zich aan bij Latam-GPT. Vanuit Montevideo leggen ze uit wat hun werk inhoudt. ‘Bijvoorbeeld: mag je de notulen van alle parlementen, van tientallen jaren debat tussen overlegorganen van Latijns-Amerika, zomaar overnemen? In eerste instantie denk je misschien dat het gaat om openbare informatie. Maar de toespraken vallen onder het auteursrecht en de bepalingen over de toegang tot openbare informatie zijn niet duidelijk. Bovendien verschillen ze per land. Daar moet je allemaal op letten.’
Busaniche licht toe dat de bigtechbedrijven geen moeite hebben met de rechtszaken die grote onder- nemingen uit de culturele sector tegen hen aanspannen en rustig doorgaan met het verzamelen van data, maar organisaties met minder economische en financiële armslag zullen zwaar worden getroffen. Latam-GPT besloot dit punt op te lossen door een disclaimer toe te voegen met een e-mailadres waar iedere instantie of persoon zich desgewenst kan melden met het verzoek om verwijdering van zijn data.
‘Het grote probleem van dit gedeelde verzamelmodel zijn de transactiekosten,’ zegt Patricia Díaz, een andere betrokkene. ‘Alle werkuren die gaan zitten in het tekenen van overeenkomsten om gegevens te verkrijgen. En de tijd: Deep Seek werd bijvoorbeeld in zes maanden opgezet; Latam-GPT is al twee jaar bezig met het verzamelen van data. Maar dat is de prijs voor fatsoen en nette praktijken. Dat is deels waarmee dit project zich onderscheidt.’ Bij het slotbanket van een bedrijfsevenement in de VS kwam Soto eens een oude studievriend tegen, laten we hem Damián noemen. Het was 2005 en ze waren elkaar al een paar jaar uit het oog verloren. Soto vroeg hoe het hem was vergaan en toen de ander begon te vertellen over zijn nieuwe werk, gaf een van de mensen aan de andere kant van de ronde tafel hem een seintje. Damián trok zijn gezicht in de plooi, stond op en liep naar de man toe, die hem kort iets influisterde. Toen hij weer op zijn plaats zat, zei hij tegen Soto: ‘Sorry, ik kan er verder niks over zeggen.’
Later ontdekte Soto dat daar toen bijna allemaal leidinggevenden van Google zaten, het bedrijf waar zijn oude vriend was gaan werken. Twintig jaar later vertelt de directeur van Cenia in Santiago dat hij tijdens dat banket begreep dat bigtechbedrijven terughoudend begonnen te worden over hun vorderingen en er niets meer over kwijt wilden. Maar met ChatGPT ging het anders: ‘Het is niet zo dat een paar wetenschappers een geheime formule aan het bedenken waren en wij nu dertig jaar achterlopen omdat we zulke wetenschappers niet hadden, iets wat wel gebeurt bij andere technologische ontwikkelingen. Het was een recept dat iedereen kende. Het ging om OpenAI, dat daarna veranderde in ClosedAI, maar zijn poorten een beetje te laat sloot. Het is niet als bij Coca-Cola, dat iemand zegt: Jeetje, wat zou de formule van Coca-Cola zijn. Nee, hier is alles openbaar en kunnen we allemaal Coca-Cola maken. Net als mayonaise. Dat is de formule die wij willen hanteren en proberen op te schalen.’
Google hanteert een zerotolerancebeleid voor content waarin kinderen worden misbruikt. Maar bij het screeningproces kan weleens iets misgaan, waardoor een onschuldig persoon als misbruiker wordt bestempeld.
Toen Jennifer Watkins een bericht van YouTube kreeg waarin stond dat haar kanaal werd afgesloten, maakte ze zich in eerste instantie geen zorgen. Zelf gebruikte ze YouTube namelijk niet.
Haar zevenjarige tweelingzonen daarentegen wel: via een Samsung-tablet dat was ingelogd op haar Google-account, keken ze naar inhoud voor kinderen en plaatsten ze video’s van zichzelf waarop ze gekke dansjes deden. Enkele van de video’s waren meer dan vijf keer bekeken. Maar er was een ander soort video, van een van haar zoons, die Watkins in de problemen bracht.
‘Blijkbaar was het een video van zijn achterste,’ zegt Watkins, die de video zelf nooit heeft gezien. ‘Een klasgenoot had hem uitgedaagd om een naaktfilmpje te maken.’
YouTube, dat eigendom is van Google, heeft AI-systemen die de honderden uren aan video’s controleren die elke minuut worden geüpload. Maar bij dat screeningproces kan soms iets misgaan, waardoor onschuldige mensen als misbruiker worden bestempeld.
Grappig
TheNew York Times heeft ook andere voorvallen beschreven van ouders van wie het digitale leven overhoop lag nadat hun kinderen naaktfoto’s en -filmpjes hadden geüpload. De content werd door de AI-systemen van Google gemarkeerd, waarna menselijke beoordelaars aangaven dat het niet door de beugel kon. Sommige ouders werden als gevolg hiervan door de politie ondervraagd.
Het ‘naaktfilmpje’ van de zoon van Watkins werd in september geüpload en binnen enkele minuten gemarkeerd als mogelijke seksuele uitbuiting. Dat is een schending van de servicevoorwaarden van Google, met zeer ernstige gevolgen.
Watkins, een verpleegkundige uit New South Wales (Australië), ontdekte al snel dat ze niet alleen haar toegang tot YouTube, maar tot al haar Google-accounts kwijt was. Ze kon niet meer bij haar foto’s, documenten en e-mail, wat betekende dat ze geen berichten over haar werkschema kon inzien, geen bankafschriften meer kon bekijken en ‘zelfs geen thick shake kon bestellen’ via haar McDonald’s-app, waarop ze inlogde met haar Google-account.
De inlogpagina van Google liet haar weten dat haar account uiteindelijk zou worden verwijderd, tenzij ze tegen de beslissing in beroep ging. Ze klikte op een knop waardoor ze in beroep kon gaan en schreef dat haar zevenjarige zoontjes ‘billen grappig vonden’ en verantwoordelijk waren voor het uploaden van de video. ‘Ik lijd hier financieel onder’, voegde ze eraan toe.
Google heeft het algoritme ter beschikking gesteld van andere bedrijven, waaronder Meta en TikTok
Kinderrechtenactivisten en wetgevers over de hele wereld hebben er bij technologiebedrijven op aangedrongen om de onlineverspreiding van aanstootgevend beeldmateriaal te stoppen en hun platforms te controleren op dergelijk materiaal. Veel providers screenen nu door gebruikers opgeslagen en gedeelde foto’s en video’s op zoek naar beelden van misbruik die bij de autoriteiten zijn gemeld.
Google wil daarnaast ook content kunnen markeren die bij de autoriteiten nog niet bekend is. Een paar jaar geleden ontwikkelde het bedrijf op basis van bekende beelden een algoritme dat nieuwe misbruikcontent moet detecteren. Google heeft het algoritme ter beschikking gesteld van andere bedrijven, waaronder Meta en TikTok.
In het geval van Watkins stelde een medewerker dus vast dat de video problematisch was. Vervolgens heeft Google de video gemeld bij het National Center for Missing and Exploited Children, een non-profitorganisatie die fungeert als officieel meldpunt voor verdachte content. Het centrum kan de video dan toevoegen aan zijn database met bekende afbeeldingen en beslissen of deze al dan niet aan de lokale politie moet worden gerapporteerd.
Volgens statistieken van het National Center is Google een van de voornaamste melders van ‘ogenschijnlijke kinderpornografie’. Google deed vorig jaar meer dan 2 miljoen meldingen – veel meer dan de meeste digitale communicatiebedrijven. Maar minder dan Meta.
Volgens experts is het moeilijk om de omvang van kindermisbruik te beoordelen enkel op basis van de cijfers. In één onderzoek werd een kleine steekproef gedaan met gebruikers die ongepaste afbeeldingen van kinderen zouden hebben gedeeld. Datawetenschappers bij Facebook lieten weten dat meer dan 75 procent van hen ‘geen kwade bedoelingen had’. Onder de gebruikers bevonden zich tieners die intieme beelden van zichzelf stuurden naar hun partners en mensen die een ‘meme deelden van de genitaliën van een kind waar een dier in bijt, omdat ze dat grappig vonden’.
Draconische straf
Apple op zijn beurt heeft de druk weerstaan om iCloud te scannen op uitbuitingsmateriaal. Een woordvoerder wijst op een brief die het bedrijf dit jaar naar een belangengroep heeft gestuurd. Daarin staat dat Apple bezorgd is over de ‘veiligheid en privacy van onze gebruikers’ en ‘dat onschuldige partijen worden meegesleurd in dystopische sleepnetten’.
Afgelopen herfst schreef Susan Jasper, hoofd trust and safety van Google, op een blog dat het bedrijf van plan is om de procedure waarmee gebruikers in beroep kunnen gaan, aan te passen. Zo willen ze ‘de gebruikerservaring verbeteren’ voor mensen die ‘menen dat we verkeerde beslissingen hebben genomen’. Een belangrijke verandering is dat het bedrijf nu meer informatie geeft over waarom een account is geschorst, in plaats van een algemene melding over een ‘ernstige schending’. Watkins bijvoorbeeld kreeg te horen dat ze geschorst was wegens het uitbuiten van kinderen.
Hoe dan ook, de herhaalde verzoeken van Watkins werden afgewezen. Ze had een betaald Google-account, waardoor zij en haar man berichten konden uitwisselen met medewerkers van de klantenservice. Maar in die digitale correspondentie zeiden medewerkers dat de video hoe dan ook in strijd was met het bedrijfsbeleid, ook al ging het om de handeling van een onwetend kind.
Watkins vindt het oneerlijk dat zo’n draconische straf wordt opgelegd na één domme video. Ze snapt niet waarom ze van Google niet eerst een waarschuwing kon krijgen voordat haar de toegang tot al haar accounts en meer dan tien jaar aan digitale herinneringen werd ontzegd.
Na meer dan een maand van mislukte pogingen om het bedrijf op andere gedachten te brengen, nam Watkins contact op met The New York Times. Een dag nadat een verslaggever naar haar zaak had geïnformeerd, werd haar Google-account hersteld.
‘We willen niet dat onze platforms worden gebruikt om kinderen in gevaar te brengen of uit te buiten, en veel mensen willen dat internetplatforms de strengste maatregelen nemen om CSAM op te sporen en te voorkomen’, verklaarde het bedrijf. CSAM is een veelgebruikte afkorting die staat voor ‘child sex abuse material’ [content met seksueel misbruik van kinderen]. ‘In dit geval hebben we begrepen dat de aanstootgevende inhoud niet met kwade opzet is geüpload.’ Het bedrijf gaf geen antwoord op de vraag wat voor verdere stappen mensen – afgezien van The New York Times mailen – kunnen nemen als hun bezwaar wordt afgewezen.
De positie van Google is lastig als het aankomt op het beoordelen van dergelijke bezwaren, zegt Dave Willner, medewerker van het Stanford University’s Cyber Policy Center die bij verschillende grote technologiebedrijven heeft gewerkt op het gebied van vertrouwen en veiligheid. Zelfs als een foto of video van oorsprong onschuldig is, kan deze met kwade bedoelingen worden gedeeld.
‘Pedofielen delen of verzamelen foto’s die ouders met onschuldige intenties hebben genomen, gewoon omdat ze naakte kinderen willen zien,’ zegt Willner.
‘Ze nemen honderdduizenden of miljoenen beslissingen per jaar. Als je zo vaak dobbelstenen gooit, gooi je een keer mis’
‘Het is gewoon heel, heel moeilijk om op deze schaal waardeoordelen te reguleren,’ zegt Willner. ‘Ze nemen honderdduizenden of miljoenen beslissingen per jaar. Als je zo vaak dobbelstenen gooit, gooi je een keer mis.’
Hij zegt dat Watkins’ problemen met Google ‘een goed argument zijn om je digitale leven te spreiden’ en niet op één bedrijf te leunen voor zoveel diensten.
Watkins heeft uit haar ervaring een andere conclusie getrokken: ouders moeten niet hun eigen Google-account gebruiken voor de internetactiviteiten van hun kinderen, maar voor hen een eigen account instellen. Dat is ook iets wat Google aanmoedigt.
Maar ze heeft het account voor haar tweelingzoons nog niet aangemaakt. Voorlopig mogen ze nog even niet op internet.
Europa staat onder druk: om te kunnen concurreren met de VS en China wil de EU de AI- en privacywet versoepelen, maar critici vrezen voor de mogelijke gevolgen. Moet Europa zijn regels aanpassen of juist handhaven?
Nee: ‘Het niet stoppen van schadelijke activiteiten die de democratie ondermijnen, zal het continent alleen maar beschadigen’
De term ‘Brussel-effect’ werd in 2012 geïntroduceerd door Anu Bradford, expert internationaal handelsrecht aan Columbia University. Het begrip verwees naar de greep van de wetgeving van de Europese Unie op de wereldpolitiek. Door versnelde globalisering groeide Brussel uit tot de belangrijkste speler op het gebied van regelgeving en juridische procedures. ‘De omvang van haar markt en invloed overtuigde multinationals er destijds van dat ze er verstandig aan deden om de strenge EU-regels te handhaven. Die tijd lijkt nu voorbij’, concludeert Stéphane Lauer, columnist voor Le Monde.
Donald Trump richtte zich vanaf het begin van zijn tweede ambtstermijn op de regelgevende macht van de EU en beschuldigde de 27 lidstaten ervan Amerikaanse techbedrijven opzettelijk dwars te liggen. Hij heeft onophoudelijk opgeroepen tot de ontmanteling van de Digital Services Act (DSA) en de Digital Markets Act (DMA). ‘Deze wetten moeten voorkomen dat internetgiganten onze privacy schenden, de concurrentie verstoren en de informatieruimte naar hun hand zetten,’ legt Lauer uit. ‘Grote Amerikaanse techbedrijven zien Europese regels als obstakels voor hun bedrijfsmodel en hebben in Donald Trump hun sterkste pleitbezorger gevonden.’
De Amerikaanse regering wil dat de EU de strenge techregels afschaft in ruil voor verlaging van de tarieven op Europese export. Tijdens een overleg op 24 november in Brussel verzocht de Amerikaanse minister van Handel, Howard Lutnick, nog om de ontmanteling van Europese digitale wetgeving in ruil voor een ‘mooie deal over staal en aluminium’.
‘De “omnibuswet” lijkt een reactie te zijn op de druk van de Amerikaanse regering’
Naast het Amerikaanse offensief is er een tweede ontwikkeling. De Europese Commissie blijkt namelijk bereid om op eigen initiatief de Algemene Verordening Gegevensbescherming (AVG) en de wet inzake kunstmatige intelligentie (AI) te versoepelen, om zo haar concurrentievermogen te verbeteren. Voorstellen hiertoe werden door de Europese Commissie op 19 november gedaan in het kader van de zogeheten ‘omnibuswet’. Met de nieuwe wet krijgen bedrijven meer ruimte om data te gebruiken voor de ontwikkeling van AI. Lauer is sceptisch. ‘Hoewel minder bureaucratie wenselijk is, lijkt de “omnibuswet” eerder een reactie te zijn op de druk van de Amerikaanse regering’, schrijft hij.
De EU moet zich volgens de Franse columnist niet laten wijsmaken dat het een binaire keuze is: óf innovatie óf regulering. ‘Door deze tweedeling te accepteren, riskeert ze op beide fronten te verliezen. Het niet stoppen van schadelijke activiteiten die de democratie ondermijnen, zal het continent alleen maar beschadigen.’
De inzet is hoog. Als Europa buigt voor Amerikaanse druk zou er definitief geen sprake meer zijn van het ‘Brussel-effect’. Lauers boodschap is helder: ‘Een digitale inhaalslag betekent niet dat de EU lukraak moet dereguleren of zich moet laten inzetten als pion van de internetgiganten.’
Stéphane Lauer is een economisch journalist met dertig jaar ervaring bij het Franse dagblad Le Monde.
Ja: ‘Europa riskeert permanent achter te lopen op de VS en China’
‘De EU-regelgeving heeft belangrijke bijdragen geleverd aan het waarborgen van gegevensprivacy en concurrentie in de technologiesector’, schrijft Financial Times in een redactioneel. ‘Maar met de AI-wet van 2024 is er een grens overschreden. De regels hebben geleid tot felle lobbyactiviteiten van grote technologiebedrijven en de Amerikaanse overheid. Bovendien brengen ze het concurrentievermogen van EU-bedrijven en start-ups in gevaar. Europa riskeert hierdoor permanent achter te lopen op de VS en China in de race om de transformatieve technologie te ontwikkelen en te benutten.’
Volgens de krant overschatte de EU aanvankelijk de risico’s van AI. ‘Er moet een goed evenwicht worden gevonden tussen beperkende regels en de vrijheid om innovatieve technologieën na te streven.’ Te veel regels beschermen gevestigde bedrijven tegen concurrentie, terwijl nieuwe spelers erdoor worden gehinderd. ‘Hoewel Big Tech regelmatig klaagt over de hoge kosten van naleving van de regelgeving, zijn de kosten voor grote bedrijven relatief beperkt. Voor kleine bedrijven kunnen de bedragen echter onbetaalbaar zijn.’
‘De belangrijkste motivatie is dat Europa een betere kans krijgt om te concurreren op het gebied van AI’
De Europese Commissie stelt voor om de volgende fase van de AI-regels, voor systemen met ‘hoog risico’ in bijvoorbeeld de gezondheidszorg en kritieke infrastructuur, een jaar uit te stellen. Ook bestaande GPAI-systemen (General-Purpose AI) krijgen een jaar extra om zich aan te passen.
De EU zou er volgens Financial Times verstandig aan doen om deze gelegenheid aan te grijpen voor een bredere herziening van haar AI-regels, teneinde deze flexibeler te maken. ‘Dat is geen geval van toegeven aan Donald Trump of Big Tech, al hopen sommige EU-functionarissen dat de nieuwe wet de Amerikaanse regering tevreden stelt en daardoor de druk op andere digitale wetten zal verlichten. De belangrijkste motivatie is dat Europa een betere kans krijgt om te concurreren op het gebied van AI.’
Europa loopt flink achter op het gebied van vernieuwende start-ups. ‘De toegang tot kapitaal is te beperkt en de energiekosten zijn te hoog om de grootschalige infrastructuur van de VS na te bouwen.’ Volgens de krant levert het versoepelen van de regels dus alleen iets op als dit samengaat met bredere hervormingen.
De redactieraad van Financial Times vertegenwoordigt het standpunt van Europa’s meest toonaangevende financiële en economische dagblad.
Techbedrijven zijn lyrisch over de ontwikkeling en implementatie van kunstmatige superintelligentie om zaken als hongersnood en klimaatverandering tegen te gaan. Voor wereldproblemen hebben we echter geen hulp nodig bij het bedenken van oplossingen, maar bij de concrete uitvoering ervan, aldus Francis Fukuyama.
Een oude studievriend van me heeft carrière gemaakt als belegger en ondernemer aan de rand van de techwereld. Hij heeft altijd grote bewondering gekoesterd voor mensen die hij als ‘ontzettend slim’ beschouwt. Daarmee bedoelt hij mensen die sterk zijn in wiskunde en met behulp van hun intelligentie goed hebben verdiend.
Hij is niet de enige die er zo over denkt. Silicon Valley is zo’n beetje een tempel voor de verering van genieën – in eerste instantie figuren als Steve Jobs, Bill Gates en Elon Musk – die hypersuccesvolle bedrijven hebben opgezet rond technologische toepassingen. Die technologie ontwikkelt zich nu rond AI, met Sam Altman, Demis Hassabis en Yann LeCun als de nieuwe iconen van genialiteit.
En wat deze generatie creëert is inderdaad intelligentie. Er is momenteel een wedloop gaande op het gebied van AGI, artificial general intelligence, een machine die het cognitieve vermogen van de mens zal evenaren. En zelfs overtreffen: de allernieuwste machines ‘groeien’ in plaats van te worden geprogrammeerd, ze zouden ertoe in staat zijn bij zichzelf aanpassingen te doen die hun capaciteiten vergroten.
Ze nemen geen genoegen met ons intelligentieniveau; ze zullen slimmer worden dan mensen. Dit soort ‘superintelligentie’ zal vervolgens leiden tot grote vooruitgang in de wetenschap, de technologie en de economie. En daarvan zijn nu al voorbeelden te zien, zoals Hassabis’ Alphafold-project, waarmee ingewikkelde eiwitstructuren kunnen worden voorspeld, wat met de beschikbare technologieën een onmogelijke opgave leek. Er wordt tegenwoordig serieus gesproken over een niet eens zo verre toekomst waarin ontwikkelde economieën met behulp van superintelligente AI substantieel hogere groeicijfers van 10, 15 of zelfs 20 procent per jaar zullen bereiken (ter vergelijking: nu wordt een groei van 2-3 procent al als substantieel beschouwd). Niemand zou meer gebrek hoeven leiden en er zouden regelingen komen ter ondersteuning van degenen die door AGI niet meer in hun levensonderhoud kunnen voorzien, zoals een algemeen basisinkomen.
Feit of fictie?
Je kunt verschillende vraagtekens plaatsen bij dit soort speculaties. Over de eerste vraag ben ik niet in de positie te oordelen: is AGI of superintelligentie überhaupt mogelijk? Volgens schrijvers als Eric Larson zijn LLM’s weliswaar goed in het uitkammen van enorme hoeveelheden bestaande kennis, maar ontberen ze het bespiegelende inzicht – door de cognitiewetenschapper C.S. Peirce ‘abductie’ genoemd – dat je nodig hebt voor daadwerkelijk innovatieve ontdekkingen.
Maar laten we even aannemen dat AGI er komt en dat machines in sommige opzichten intelligenter zullen worden dan mensen. Er zijn sterke gronden om aan te nemen dat dit onze maatschappij op allerlei manieren zal veranderen, maar misschien niet die explosieve economische groei teweeg zal brengen die de pleitbezorgers van AI verwachten.
De reden voor deze scepsis is dat het vandaag de dag eenvoudigweg niet een gebrek aan intelligentie of cognitieve vaardigheden is waardoor economische groei wordt beperkt. Zelfs zonder slimme machines bezitten mensen collectief tegenwoordig meer cognitief vermogen dan ooit in de geschiedenis van de mensheid. De beperkingen komen voort uit de talloze manieren waarop die intelligentie in wisselwerking staat met de materiële wereld. Economische groei hangt uiteindelijk af van de kunst om echte dingen in de echte wereld te creëren. Een slimme machine komt misschien op de proppen met een beter model voor een muizenval, maar voor het produceren van die muizenval zijn capaciteiten benodigd die buiten het bereik liggen van welke machine dan ook.
Economische groei hangt uiteindelijk af van de kunst om echte dingen in de echte wereld te creëren
Op macroniveau lopen we nu al aan tegen het feit dat er te veel geld is in verhouding tot de hoeveelheid goederen. Zoals klimaatdoemdenkers al jaren zeggen, zijn er materiële grenzen aan groei. De grens die het meest in het oog springt, is de opwarming van de aarde, maar er zijn er nog veel meer. De planeet is niet gemaakt voor 8 miljard mensen met een Amerikaanse levensstandaard; met een groeitempo van 10 procent per jaar zouden China, Amerika en Europa algauw met tekorten te maken krijgen, tekorten aan landbouwgrond, water, energie – aan bijna alles.
Op microniveau is het probleem het vertalen van het werk van slimme machines in materiële goederen. Bij productinnovatie komt een langdurig, iteratief proces kijken waarbij een ontwerper ideeën uitprobeert, faalt en het ontwerp aanpast op basis van die ervaringen. Zoals generaties van ontwikkelaars en knutselaars weten zal geen superintelligentie ooit groot genoeg zijn om te kunnen simuleren hoe voorwerpen zich zullen gedragen in de stoffelijke, echte wereld.
Ten slotte is er het politieke en maatschappelijke niveau. Ik was een keer bij een presentatie van een ingenieur van een toonaangevend AI-bedrijf die zei dat AGI in de nabije toekomst bijvoorbeeld voor schoon drinkwater zou kunnen zorgen in bepaalde steden in ontwikkelingslanden.
Dat arme landen er niet in slagen in zulke basisbehoeften te voorzien komt echter niet door een gebrek aan kennis van hoe een goede drinkwatervoorziening eruitziet. Het is een politiek en maatschappelijk probleem. Niemand wil opdraaien voor de hogere kosten die een nieuw watersysteem met zich meebrengt: de werknemers van de gemeentelijke drinkwatervoorziening willen hun baan niet verliezen door automatisering; winkeleigenaren zien het niet zitten dat de straten worden opgebroken voor nieuwe leidingen; de minister van Financiën heeft andere prioriteiten en wil niet de belasting verhogen voor de aanleg van het nieuwe systeem. In veel arme landen heb je watermaffia’s die goedkoop water inkopen en het voor buitensporig hoge prijzen doorverkopen. Ze zijn gewapend en zullen niet aarzelen geweld te gebruiken als je ze in de weg zit.
[Het gebrek aan drinkwater] komt echter niet door een gebrek aan kennis… Het is een politiek en maatschappelijk probleem.
Een superintelligente machine kan deze problemen misschien begrijpen, maar zal niet in staat zijn er iets tegen te doen. We weten al hoe een goede watervoorziening eruitziet; wat we niet hebben is een implementatieplan voor een specifieke stad.
Ons begrip van de rol van intelligentie is vertekend door de technologische veranderingen van de laatste decennia. Internet, sociale media en aanverwante technologieën zijn allemaal gebaseerd op software. Afgezien van dataservers en cloudopslag hoeven hiervoor geen apparaten te worden gebouwd die nog nooit zijn getest. Daardoor kun je met software zo makkelijk opschalen. Dat is de reden dat Google, Meta en andere bedrijven zo snel reuzen hebben kunnen worden.
Bedrijven die geld verdienen door materiële zaken in de materiële wereld te bouwen hebben veel meer moeite met opschalen. Ook zij hebben baat bij schaalvoordelen, maar bereiken het punt van afnemende meeropbrengsten veel eerder dan een softwarebedrijf. (Dit is trouwens een van de redenen dat Elon Musks Tesla zo’n opmerkelijk verhaal is: dat hij een materieel product zo succesvol heeft weten op te schalen.) Op de een of andere manier zijn we het softwareparadigma gaan zien als het model dat het AI-tijdperk zal kenmerken, maar de economische voordelen die AI belooft zullen niet even gemakkelijk meegroeien.
Waarmee ik niet wil zeggen dat AI niet zal leiden tot een enorme productiviteitsverhoging: kijk bijvoorbeeld naar Jerry Kaplans voorspellingen over de toekomst van robotaxi’s. Maar intelligente mensen, zoals die in Silicon Valley, neigen ernaar het belang van intelligentie in het leven te overschatten. Om een goed en succesvol mens te zijn heb je behalve intelligentie veel andere capaciteiten nodig, en voor het bewerkstelligen van economische groei is ook veel andere input nodig dan die AI kan leveren.
Francis Fukuyama is Olivier Nomellini Senior Fellow aan Stanford University. Zijn meest recente boek is Liberalism and Its Discontents en hij schrijft de column ‘Frankly Fukuyama’ in Persuasion.
Kunstmatige intelligentie dreigt de arbeidsmarkt op zijn kop te zetten. Volgens voorstanders kan een universeel basisinkomen de klap opvangen. Maar moeten we dat wel willen?
Het idee van een gegarandeerd inkomen voor iedereen doet al eeuwen de ronde. De populariteit ervan is afhankelijk van de tijdgeest. Veel mensen vinden het universeel basisinkomen (UBI) nog steeds een te radicaal concept. Voorstanders daarentegen zien het niet alleen als een oplossing voor armoede, maar ook als remedie tegen een aantal van de grootste moeilijkheden waar werknemers vandaag de dag mee kampen: loonongelijkheid, baanonzekerheid – en de dreiging dat AI tot verlies van banen gaat leiden.
Elon Musk zei onlangs op de Bletchley Park-top dat de ontwikkeling van AI ervoor kan zorgen dat ‘banen niet meer nodig zijn’ en hooguit nog dienen ter ‘persoonlijke voldoening’. Econoom en politiek theoreticus Karl Widerquist, hoogleraar filosofie aan de Georgetown University in Qatar, ziet dat anders.
‘Zelfs als AI je baan inpikt, betekent dat niet dat je voor de rest van je leven werkloos bent,’ zegt hij. ‘In plaats daarvan zak je af op de arbeidsladder, en begin je de lagere-inkomensberoepen te verdringen.’
Widerquist denkt dat de groei van AI er in ieder geval op korte termijn voor zal zorgen dat mensen met een kantoorbaan veroordeeld worden tot de gigeconomie [tijdelijk werk voor kortlopende projecten] en andere vormen van slecht betaald, onzeker werk. Hij vreest dat een dergelijke verschuiving in de beroepsbevolking zal leiden tot lagere lonen en slechtere arbeidsvoorwaarden, terwijl de ongelijkheid toeneemt.
Een uitweg
Volgens Widerquist kan een UBI een uitweg bieden in deze tijden van AI en automatisering. Het zou uitkomst bieden tegen het onvermogen van werkgevers om de opbrengsten van economische groei – die op zijn minst gedeeltelijk is aangedreven door automatisering – eerlijk te verdelen onder werknemers.
Sommige mensen gaan nog verder en zien het UBI als een dividend waar werknemers recht op hebben vanwege hun rol in de ontwikkeling en verspreiding van kennis die wordt gebruikt om AI-modellen zoals ChatGPT te trainen. ‘Waarom,’ vraagt Scott Santens, redacteur van de website Basic Income Today, ‘zouden slechts een of twee bedrijven rijk mogen worden van het kapitaal, het menselijke werk, dat we allemaal samen hebben gecreëerd?’
Als werknemers in de toekomst wél overbodig worden door automatisering en niet een nieuwe baan kunnen krijgen, dan is het UBI een veelbelovende optie, aldus Loek Groot, universitair hoofddocent economie van de publieke sector aan de Universiteit Utrecht.
Tussen 2017 en 2019 voerden Groot en collega-onderzoekers in Nederland een onderzoek uit waarbij werklozen die voorheen een uitkering ontvingen, een basisinkomen kregen toebedeeld. Het onderzoek wees op verhoogde participatie op de arbeidsmarkt. Volgens Groot was dat niet alleen te danken aan de financiële steun die het basisinkomen bood, maar ook aan het schrappen van voorwaarden die werkzoekenden normaliter krijgen opgelegd – en de bijbehorende sancties in het geval van een overtreding.
‘Waarom zou je proberen iedereen betaald werk te geven als je objectief kunt vaststellen dat er niet genoeg banen zijn?’
Deelnemers die niet de verplichting hadden om werk te vinden en te aanvaarden, hadden een grotere kans om een vast contract te krijgen – in tegenstelling tot het onzekere werk waar Widerquist het over heeft.
Experimenten met het UBI tonen over het algemeen niet aan dat het werknemers aanmoedigt om de arbeidsmarkt volledig te verlaten. Hogere vergoedingen leidden er echter wel toe dat sommige mensen minder uren zijn gaan werken. Maar Groot zegt dat dit geen probleem is. ‘Waarom zou je proberen iedereen betaald werk te geven als je objectief kunt vaststellen dat er niet genoeg banen zijn?’ vraagt hij. ‘Waarom zouden we mensen die goede alternatieven hebben niet de kans geven om minder of helemaal niet te werken en van het basisinkomen gebruik te maken?’
Een voorbeeld van zo’n ‘goed alternatief’ is de mogelijkheid om jezelf bij of om te scholen. Het is ook mogelijk dat het beleid onze maatschappelijke opvattingen over werk totaal verandert. Zorgverleners – voornamelijk vrouwen – zouden betaald worden voor werk dat traditioneel onbetaald is geweest, zoals de opvoeding van kinderen of de zorg voor oudere familieleden.
Ondernemerschap
In Kenia is sinds 2017 de grootste UBI-regeling ter wereld van kracht. Bijna vijfduizend mensen ontvangen ongeveer zeventig cent per dag. Het experiment, dat is georganiseerd door GiveDirectly en wordt gefinancierd door donaties, gaat twaalf jaar duren. Tavneet Suri, lid van het onderzoeksteam van GiveDirectly en hoogleraar Toegepaste Economie aan het Massachusetts Institute of Technology, zegt dat ze tot nu toe een aantal verrassende resultaten heeft gezien.
‘We zien dat mensen laagbetaalde banen verlaten,’ zegt ze. ‘Ze beginnen een bedrijf en die bedrijven doen het geweldig, omdat er geld is. Deze onverwachte golf van ondernemerschap heeft ook een positief effect gehad op mensen met betaalde banen, aangezien de krimpende arbeidsmarkt een positieve invloed heeft op de hoogte van de salarissen.
‘Als het aantal bedrijven in een ontwikkelingsland met twintig procent stijgt, zorgt dat voor mensen die belasting gaan betalen,’ zegt Suri. ‘Omdat boeren [die een hoog percentage van de beroepsbevolking in Kenia uitmaken] over het algemeen niet belast worden, is het verschil groot: ineens heb je een heleboel mensen die belasting betalen en spullen kopen. En een van de grootste inkomstenbronnen voor de overheid is eigenlijk de omzetbelasting.’
Robotbelasting
Suri en haar collega’s wijzen er ook op dat werknemers de arbeidsmarkt niet hebben verlaten en dat lokale economieën worden gestimuleerd door de toegenomen koopkracht. Desondanks is Suri voorzichtig. In Kenia is armoede nog steeds een veel groter probleem voor werknemers dan automatisering. Voordat een door de overheid gesteund UBI-programma serieus kan worden overwogen, moet volgens haar worden aangetoond dat het echt voordelen biedt.
Rosanna Merola, macro-econoom en onderzoeker bij de ILO [Internationale Arbeidsorganisatie], stelt ten aanzien van landen waar automatisering wel een grotere zorg is, een heel andere aanpak voor: een robotbelasting. In een onderzoekspaper uit 2022 noemt Merola het ‘filosofisch aantrekkelijk’ om bedrijven te belasten die werknemers vervangen door robots, zodat van dat geld een UBI gefinancierd kan worden. Ook al noemt ze dat plan op dit moment nog niet realistisch.
‘In dit stadium is het nog heel onduidelijk hoe een robotbelasting in de praktijk geïmplementeerd kan worden,’ zegt ze. ‘Wetgevers zullen waarschijnlijk de zeer complexe vraag moeten beantwoorden wat een “robot” is en hoe die belast moet worden. Het onderscheid tussen een machine en een robot of tussen een computerprogramma en AI is bijvoorbeeld nog steeds niet duidelijk.’
Desondanks denkt Merola dat het concept van een robotbelasting kan worden toegepast op meer herkenbare vormen van AI – grote taalprogramma’s als ChatGPT bijvoorbeeld. Ze suggereert dat bedrijven die AI gebruiken om taken te automatiseren, beslissingen te nemen of diensten te verlenen, belasting zouden kunnen betalen over de winst die wordt gegenereerd door AI-gedreven processen. Of overheden zouden belasting kunnen heffen op het verzamelen, verwerken of verkopen van de gegevens waarvan AI afhankelijk is. Een deel van deze inkomsten kan dan worden gebruikt om de impact van technologie op werknemers die zijn vervangen te verkleinen.
Een dergelijk beleid zou ‘tot een veelvoud van onzekere banen kunnen leiden‘
Joe Chrisp, onderzoeker aan de University of Bath’s Universal Income Beacon, gelooft dat een UBI positieve resultaten zou kunnen opleveren voor werknemers, maar noemt zichzelf een ‘goedgezind scepticus’. Hoewel sommigen beweren dat AI werknemers tot de gig-economie zal veroordelen, en dat een UBI ze daartegen kan beschermen, denkt Chrisp dat dergelijk beleid ‘tot een veelvoud van onzekere banen zou kunnen leiden, in plaats van mensen te stimuleren om stabieler werk te vinden.’
Ook wat de mogelijkheden voor toepassing van het UBI betreft, is hij sceptisch. Hij denkt dat de meest bescheiden voorstellen waarschijnlijk al grote belastingverhogingen zullen vereisen en daarom ‘moeilijk verkoopbaar’ zijn.
Onderzoek van denktank Autonomy toont aan dat een bescheiden UBI-regeling waarschijnlijk hogere bijdragen vraagt van de meest welgestelden, maar niet zal leiden tot een netto belastingverhoging. ‘Zo’n model is in feite kostenneutraal en zou armoede onder kinderen en gepensioneerden halveren,’ zegt Will Stronge, onderzoeksdirecteur bij Autonomy. ‘Maar ik denk niet dat het volstaat om grotere culturele veranderingen tot stand te brengen, die meer zullen kosten.’
Vangnet
Chrisp is het ermee eens dat er op de middellange termijn een strategie moet komen om werknemers te helpen bij het vinden van een nieuwe baan in een veranderende economie. Op de kortere termijn moet er voor diezelfde werknemers een vangnet komen. Hij is er echter niet van overtuigd dat één enkele maatregel de oplossing kan bieden voor een probleem dat zo complex is als de invloed van AI op de banenmarkt.
‘Het idee dat een UBI allerlei mensen die geen baan kunnen vinden voor onbepaalde tijd een vast inkomen zou bieden, vind ik zelf nogal deprimerend,’ zegt hij. ‘Kapitalistische economieën zijn er heel goed in manieren te genereren waarop mensen geld kunnen verdienen, maar of dat goede banen zijn, is nog maar de vraag.’
De val van de Muur in 1989 heeft decennialang psychologische littekens achtergelaten bij jonge Duitsers, volgens een onderzoek uit 2023. Meer dan twintig jaar na dato rapporteerden Oost-Duitsers die destijds jong waren meer psychische problemen dan West-Duitsers van dezelfde leeftijd.
Het tij lijkt echter te keren, zo schrijft Der Tages-Anzeiger. Uit recent onderzoek blijkt dat Oost-Duitsers vergeleken met personen van dezelfde leeftijd, hetzelfde geslacht, dezelfde opleiding en hetzelfde inkomen minder depressieve symptomen rapporteren dan West-Duitsers.
‘In Nedersaksen [West-Duitsland] hebben stress en depressie de grootste impact op de bevolking’, aldus het Duitse Centrum voor Geestelijke Gezondheid. De Duitsers die zichzelf het gelukkigst noemen, wonen in Berlijn, terwijl ze in Saarland [uiterst West-Duitsland] het laagste welzijnsniveau rapporteren. Al in 2024 toonde een onderzoek naar het verband tussen rijkdom en emotioneel welzijn onder Oost- en West-Duitsers aan dat Oost-Duitsers minder tevreden zijn, maar niet per se minder ‘gelukkig’.
Wetenschappers hebben ontdekt dat de temperatuurdaling in iemands neus kan worden gebruikt als maat- staf voor stressniveaus en om herstel te monitoren. Onder invloed van stress verandert namelijk de bloed- doorstroom in het gezicht. Volgens de psychologen achter het onderzoek zou warmtebeeldtechniek een gamechanger kunnen zijn in stressonderzoek, meldt de BBC. Proefkonijnen moesten in drie minu- ten een toespraak van vijf minuten voorbereiden over hun droombaan. Tijdens hun toespraak legden de wetenschappers hun gezicht vast met een warmtecamera. Bij alle 29 vrijwilligers zagen ze de temperatuur van hun neus met drie tot zes graden dalen.
Deze ontdekking kan volgens de wetenschappers worden gebruikt om schadelijke stressniveaus te beheersen. Omdat deze techniek niet-invasief is en een lichamelijke reactie meet, zou ze ook nuttig kunnen zijn om stress te monitoren bij baby’s of mensen die niet kunnen communiceren.
Een vrouw uit West-Londen heeft een boete van omgerekend 172 euro gekregen omdat ze de restjes van haar ochtendkoffie in een straatputje had gegoten terwijl ze op de bus wachtte, aldus The Guardian. Ze meende er goed aan te doen haar herbruikbare beker leeg te maken voordat ze in de bus naar haar werk stapte. Maar even later werd ze door drie handhavers aangehouden en beboet.
Ze vertelden haar dat ze een artikel had overtreden dat verbiedt afval te lozen op een manier die land of water kan vervuilen. Ze had de koffie volgens de handhavers in een nabijgelegen afvalbak moeten gooien. De vrouw eist dat de regels voortaan duidelijker worden aangegeven bij prullenbakken en bushaltes.
AI brengt overledenen tot leven
Sinds de recente lancering van de Sora-app door OpenAI – een sociaal netwerk dat zich exclusief richt op AI-gegenereerde content – zijn er op sociale media veel hyperrealistische video’s verschenen van Martin Luther King die grove, beledigende of racistische opmerkingen maakt.
De leider van de burgerrechtenbeweging voor zwarte mensen is er onder andere te zien terwijl hij een supermarkt berooft, de politie ontvlucht of raciale stereotypen verspreidt, meldt NPR. Parodieën op zijn legendarische ‘I Have a Dream’-toespraak tieren er welig. OpenAI heeft de video’s waarin hij te zien is geblokkeerd en beloofd ‘de bescherming voor historische figuren op te schroeven’. Het bedrijf gelooft nog steeds dat AI-video’s van historische personen vallen onder de vrijheid van meningsuiting, maar vindt dat de erfgenamen de uiteindelijke controle moeten hebben over het gebruik van deze afbeeldingen.
Sora staat echter ook video’s van talloze andere beroemdheden toe zonder expliciete toestemming, waardoor gebruikers valse voorstellingen kunnen creëren van prinses Diana, John F. Kennedy, Kurt Cobain, Malcolm X en vele anderen. OpenAI zou kunnen besluiten het gebruik van afbeeldingen van beroemde mensen, levend of dood, volledig te verbieden, maar heeft ervoor gekozen alleen in te grijpen wanneer de betrokken personen of hun erfgenamen en begunstigden daar uitdrukkelijk om verzoeken. De gebruikelijke aanpak van het bedrijf is ‘om vergiffenis vragen, niet om toestemming’, aldus Kristelia García, hoogleraar intellectueel eigendomsrecht.
Moai-beelden ‘liepen’
Niemand begreep ooit hoe de 62 Moai-beelden op Rapa Nui, het Paaseiland in het zuidoosten van de Stille Oceaan, daar terecht waren gekomen, aangezien elk beeld tonnen weegt. Dat mysterie is onlangs opgelost door archeologen Carl Lipo en Terry Hunt, zo schrijft My Modern Met. In het Journal of Archaeological Science publiceerden zij onlangs hun onderzoek over welke tocht de beelden moeten hebben afgelegd tussen de steengroeve en hun eindbestemming. Het antwoord ligt in de unieke vorm van de beelden: een D-vormige basis met het ronde deel als draaipunt, en een hellingshoek van zes tot vijftien graden die het zwaartepunt naar de voorkant verschoof. Met een replica van 4,79 ton verplaatsten achttien vrijwilligers het beeld 100 meter in 40 minuten en vonden uit dat door gecoördineerde trekbewegingen met touwen mensen het beeld van links naar rechts konden laten ‘wiegen’, waardoor het letterlijk vooruit ‘liep’. Het bewijst dat de Rapa Nui-bewoners een geavanceerd begrip hadden van natuurkunde en resonantieprincipes.
De stad Venetië gaat al 1600 jaar mee dankzij de fundering van miljoenen korte houten palen waarop ze gebouwd is, aldus ScienceDirect. Bomen van verschillende lengtes die met hun punt naar beneden in de grond zijn geslagen, dragen al eeuwenlang stenen palazzo’s en hoge klokkentorens – een knap staaltje techniek dat de krachten van de natuur benut. Maar weinig funderingen gaan zo lang mee als die van Venetië. Hoewel Venetië niet de enige stad is die op houten palen is gefundeerd, zijn er belangrijke verschillen met andere steden die de stad uniek maken. In het geval van bijvoorbeeld Amsterdam lopen de houten palen helemaal door tot aan de rotsbodem en fungeren ze als de poten van een tafel. Dat werkt prima als de rots zich dicht bij het oppervlak bevindt. Maar in veel regio’s ligt de rotsbodem ver buiten het bereik van de palen.
De fundering van Venetië is gebaseerd op het idee dat de grond versterkt wordt door er zo veel mogelijk palen in te steken, waardoor er aanzienlijke wrijving ontstaat tussen de palen en de bodem. De technische term hiervoor is hydrostatische druk, wat in feite betekent dat de grond de palen ‘vastgrijpt’ als er veel dicht op elkaar op één plek worden geplaatst.
De Venetiaanse palen werken op deze manier: ze zijn te kort om de rotsbodem te bereiken en houden de gebouwen overeind dankzij wrijving met de bodem. Na meer dan anderhalf millennium in het water te hebben gestaan, zijn de funderingen van Venetië opmerkelijk veerkrachtig gebleken. Ze zijn echter niet immuun voor schade. Zo ontdekte een onderzoeksteam tien jaar terug dat het hout van de onderzochte constructies beschadigd was. Gelukkig hield het systeem van water, modder en hout alles nog bij elkaar.
De wereld had gehoopt dat de AI-revolutie de productiviteit een enorme boost zou geven en de administratieve kosten zou verlagen. Het tegendeel is waarschijnlijk het geval, schrijft hoogleraar economie Mathias Binswanger.
Jarenlang hebben we de boodschap gehoord dat AI in de toekomst voor enorme productiviteitswinsten zal zorgen. Economen die in de technologie geloven, zoals Erik Brynjolfsson, directeur van het Stanford Digital Economy Lab, verwachten bijvoorbeeld een permanente productiviteitsstijging van meer dan 30 procent in de VS in de komende twintig jaar.
Ondanks de digitalisering en het toegenomen gebruik van AI hebben we sinds het begin van het nieuwe millennium slechts een lichte groei van de arbeidsproductiviteit gezien. De groei van de arbeidsproductiviteit in de OESO-landen daalde van gemiddeld 2 procent per jaar van 1970 tot 2000 naar 1 procent per jaar in de periode sindsdien.
Creatievere beroepsbevolking
Hoe kan het gebruik van AI leiden tot een verhoging van de productiviteit? In feite kunnen aanzienlijke stijgingen in arbeidsproductiviteit worden waargenomen in individuele processen en activiteiten. Een studie uit 2023 toonde bijvoorbeeld aan dat callcenteroperators 14 procent productiever werden dankzij het gebruik van AI.
Dergelijke productiviteitsstijgingen worden niet alleen verklaard door de directe toename van het gebruik van AI. Aangenomen wordt dat het gebruik van AI werknemers ook creatiever en innovatiever maakt, wat vervolgens leidt tot verdere productiviteitsstijgingen. Dit geldt met name voor generatieve AI-toepassingen zoals chat-GPT, die nieuwe inhoud genereren zoals afbeeldingen, teksten, video’s of kunstmatige data.
En dit is nog maar het begin. In de toekomst zal de ontwikkeling van steeds completere kunstmatige intelligentie – ‘kunstmatige algemene intelligentie’, die complexe taken oplost met gegeneraliseerde menselijke cognitieve vaardigheden – naar verwachting leiden tot nog grotere en duurzamere productiviteitsstijgingen.
Op macro-economisch niveau zullen grote productiviteitsstijgingen een utopie blijven
Bijna niemand zal serieus betwisten dat het gebruik van AI de productiviteit in individuele processen aanzienlijk kan verhogen. Als we echter naar de economie als geheel kijken in plaats van naar individuele processen, ontstaat een ander beeld. Op macro-economisch niveau zullen grote productiviteitsstijgingen een utopie blijven. Dat komt omdat AI niet alleen een productiviteitsbooster is, maar ook een bureaucratiebooster. Dit aspect van de AI-revolutie wordt tot nu toe echter nauwelijks onderkend. Er bestaat zelfs de illusie dat AI de bureaucratie zal verminderen omdat het in de toekomst veel administratieve taken zonder menselijke tussenkomst zal kunnen uitvoeren. Waarom voorspel ik dan een toename van de bureaucratie?
Om dit te begrijpen, moeten we eerst verduidelijken wat we bedoelen met bureaucratie. Meer dan honderd jaar geleden definieerde Max Weber bureaucratie als de ‘overheersende aanwezigheid van administratieve handelingen in staats- of particuliere organisaties’. In de wereld van vandaag verwijst dit naar activiteiten zoals administratie, analyse, organisatie, monitoring, documentatie, controle, sturing, regulering, registratie, optimalisatie, evaluatie, certificering of naleving.
Deze lijst is zeker niet volledig, maar geeft een idee van wat bureaucratie inhoudt. De output van dergelijke activiteiten bestaat dan uit rapporten, concepten, strategieën, missieverklaringen, evaluaties, prospectussen, contracten, algemene voorwaarden, gebruiksaanwijzingen, procesbeschrijvingen, gegevensverzameling, protocollen en prestatiemandaten, maar ook meningen van experts, audits, certificaten, labels of plannen. Ook deze lijst kan oneindig worden uitgebreid.
Nieuwe controlerende bureaucratie
We zien al tientallen jaren een toename van dergelijke activiteiten, wat heeft geleid tot de opkomst van een nieuwe controlerende bureaucratie. Dit is te wijten aan het feit dat de economie steeds complexer wordt, wat tot nieuwe uitdagingen leidt. Het antwoord op deze uitdagingen is een verdere uitbreiding van de bureaucratie, die ook bedoeld is om de economie steeds veiliger, gezonder, duurzamer, socialer of eerlijker te maken.
Bedrijven worden geconfronteerd met een groeiend aantal externe eisen, voorschriften en bepalingen en reageren daarop met een toename van intern gedefinieerde administratieve eisen, voorschriften en bepalingen. Er is meer bureaucratische specialisatie met nieuwe activiteiten die allemaal weer op elkaar afgestemd moeten worden. Daarnaast worden de inspanningen om alle processen en procedures te optimaliseren voortdurend geïntensiveerd, wat ook een steeds uitgebreidere controle vereist.
Neem bijvoorbeeld complianceafdelingen, die de afgelopen decennia bij veel bedrijven en vooral banken als paddenstoelen uit de grond zijn geschoten. Steeds uitgebreidere wetten en regels hebben bedrijven gedwongen om ervoor te zorgen dat deze wetten en regels worden nageleefd. Daarom werken er tegenwoordig in alle grotere bedrijven steeds minder mensen in de productie, maar des te meer compliance officers, nalevingsfunctionarissen of compliance managers die een oogje in het zeil houden om ervoor te zorgen dat alles correct en volgens de wet verloopt.
Het gevolg is dat de complianceafdeling het werk van andere afdelingen bemoeilijkt en nieuwe inefficiënte situaties creëert. Zoals we lezen in Compliance Study van Forrester Consulting voor 2023: ‘De complexiteit van complianceregelgeving is een groot probleem voor financiële instellingen.’ Er zijn dus meer banen nodig, zoals complianceconsultants of compliancecoördinatoren, die de negatieve gevolgen van de toenemende compliancebureaucratie moeten verzachten, maar die zelf bijdragen aan de groei van de bureaucratie.
Steeds meer gegevens beschikbaar
Dus hoe komt AI in het spel? Het veroorzaakt een digitale intensivering van de controlerende bureaucratie. De gedigitaliseerde controlerende bureaucratie wordt niet langer gekenmerkt door ‘papieren in beweging’, maar door een voortdurend groeiende gegevensstroom tussen een toenemend aantal sensoren, apparaten, processen en toepassingen. Deze gegevensstromen worden grotendeels gebruikt om mensen, objecten en processen te monitoren, controleren of optimaliseren. Algoritmes worden gevoed met gegevens om de juiste beslissingen te nemen of maatregelen te treffen.
De constante poging om bureaucratische activiteiten te optimaliseren met behulp van digitale toepassingen en AI bevordert daarom zelf een toename van bureaucratie. Dit is ook te wijten aan het feit dat de beschikbaarheid van gegevens sneller toeneemt dan de rekenkracht van de algoritmen. Ondanks de toenemende rekenkracht kunnen we dus een steeds kleiner deel van alle gegevens in de wereld op een zinvolle manier verwerken.
Het probleem is niet een gebrek aan gegevens, maar het omgaan met te veel gegevens die met hoge snelheid bewegen
Het probleem is niet een gebrek aan gegevens, maar het omgaan met te veel gegevens die met hoge snelheid bewegen. Dit vergroot de behoefte aan nog meer gegevensverwerking en optimalisatie. Zelfs het nieuwste niveau van digitalisering is nooit genoeg om processen te controleren en te bewaken in de mate die we zouden willen.
Het is gewoon niet zo, zoals Jack Ma, de oprichter van Alibaba, zich in 2017 voorstelde, dat we in het digitale tijdperk beschikken over een röntgenapparaat of een computertomograaf voor de wereldeconomie die de technologische voorwaarde vormt voor feedbackgebaseerde, realtime catering. Je komt nooit echt tot de bodem van de processen die je in detail zou willen analyseren, omdat ze oplossen in steeds meer details die de behoefte aan verdere controle creëren.
Uiteindelijk zijn er dus twee aspecten die de intensivering van bureaucratie door AI veroorzaken: ten eerste heeft de intensivering van gegevensverzameling en de evaluatie van gegevens door op AI gebaseerde algoritmen geleid tot steeds gedetailleerdere monitoring, controle en de daaruit voortvloeiende ‘optimalisatie’ van processen en activiteiten, waarbij de hoeveelheid gegevens sneller toeneemt dan de zinvolle evalueerbaarheid ervan.
Nieuwe complexe situaties
Ten tweede zorgt de steeds groter wordende stroom gegevens en het gebruik ervan met behulp van AI voor nieuwe complexe situaties en nieuwe uitdagingen die verdere bureaucratische maatregelen zoals richtlijnen, voorschriften, wetten, contracten, meningen van deskundigen en deskundigenrapporten noodzakelijk maken. Een van die uitdagingen is gegevensbescherming. De regelgevingspakketten die hiervoor in het leven zijn geroepen, zoals de Algemene Verordening Gegevensbescherming, zorgen echter voor bureaucratie in plaats van effectieve gegevensbescherming. En nieuwe regelgeving zoals de onlangs ingevoerde AI-wet in de EU, die moet zorgen voor eerlijk en niet-discriminerend gedrag van algoritmen, zal ons binnenkort met een verdere, blijvende toename van bureaucratie opzadelen.
Deze toename in bureaucratie betekent dat het gebruik van AI op macro-economisch niveau waarschijnlijk niet zal leiden tot grote vooruitgang in productiviteit. AI-promotors zullen er alles aan doen om het geloof in productiviteitsstijgingen in stand te houden. Maar op de lange termijn zal dit niet mogelijk zijn en verdere prijscorrecties op de aandelenmarkt zullen het gevolg zijn.
We moeten echter ook de positieve kant zien van deze door AI aangedreven groei van de bureaucratie. Het zorgt ervoor dat we volledige werkgelegenheid blijven houden en dat de banen die door AI zijn overgenomen, worden vervangen door nieuwe banen in de bureaucratie.
Mathias Binswanger is hoogleraar economie aan de Universiteit voor Toegepaste Wetenschappen Noordwest-Zwitserland en auteur van Die Verselbstständigung des Kapitalismus: Wie KI Menschen und Wirtschaft steuert und für mehr Bürokratie sorgt (2024).
Er moet een internationaal embargo komen op de ontwikkeling van AI, totdat we de gevolgen beter begrijpen, vinden de auteurs Yudkowsky en Soares. ‘Door toegang te verlenen tot onze sociale media en financiële inrichtingen geven we AI alle middelen om de wereld over te nemen.’
Kunnen mensen in harmonie samenleven met machines? Eliezer Yudkowsky en Nate Soares hebben er een hard hoofd in. Ze winden er geen doekjes om in de titel van hun nieuwe boek: If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All, dat op 16 september gepubliceerd werd.
Dit lijkt misschien op paniekzaaierij, maar de schrijvers – Yudkowsky en Soares, respectievelijk medeoprichter en hoofd van het Machine Intelligence Research Institute in Berkeley, Californië – benadrukken in de introductie dat ze ‘niet op effectbejag uit zijn’. Als een land of bedrijf een zogeheten ‘kunstmatige superintelligentie’ bouwt die ‘ook maar een beetje lijkt op wat we vandaag de dag onder AI verstaan, zal iedereen, overal op aarde, sterven’.
Ze zijn niet de enigen die vrezen dat AI ons allemaal zal vernietigen als de technologie in dit tempo wordt doorontwikkeld.
Verontrustende toon
In The Intelligence Explosion: When AI Beats Humans at Everything slaat James Barrat een bijna net zo verontrustende toon aan. Barrat is een documentairemaker uit Maryland in de Verenigde Staten en schrijft al meer dan tien jaar over kunstmatige intelligentie. Hij citeert deskundigen zoals Roman Yampolskiy, die zegt dat superintelligente AI wellicht ‘een van de grootste problemen van de mensheid kan worden’. (Barrat citeert trouwens ook Yudkowsky en Soares, die daar hetzelfde over denken.) Maar Barrat voegt eraan toe dat er in plaats van het probleem onder ogen te zien ‘op een dodelijk scenario afstevenen’. Beide boeken leveren goede argumenten, maar lezers zullen zich meer aangetrokken voelen tot Yudkowsky en Soares; hun diagnose van de problemen omtrent AI toont hoeveel ervaring ze hebben binnen het vakgebied. Zo sluiten ze elk hoofdstuk af met een QR-code waarmee lezers uitgebreidere analyses kunnen raadplegen. Ook zijn ze niet bang om de grote bonzen van Silicon Valley bij naam te noemen; ze beschuldigen Elon Musk en Yann LeCunn, hoofdwetenschapper van Meta AI, van het bagatelliseren van reële risico’s.
De auteurs zijn het over veel dingen eens. De generatieve AI van 2025 – denk aan machines als ChatGPT en Gemini die informatie van allerlei bronnen assimileren en daaruit nieuwe informatie genereren – vormt nog geen existentiële bedreiging. Maar als AI-ontwikkeling met zo’n sneltreinvaart doorgaat, zullen er snel problemen ontstaan. ‘Machine-superintelligentie’, waarvan sommigen in het vakgebied denken dat die binnen tien jaar zal worden bereikt, zal ‘slimmer zijn dan ieder levend mens, slimmer dan de mensheid als geheel’, schrijven Yudkowsky en Soares.
Als het zover is kunnen we volgens Barrat niet alleen economische chaos, maar ook toenemende waanzin in de overheid verwachten. Analisten schatten in dat miljoenen mensen in ontelbare vakgebieden hun baan zullen verliezen en dat ‘AI-gestuurd bedrog en desinformatie’ eerlijke verkiezingen in gevaar zullen brengen, aldus Barrat. Barrat beweert ook dat AI met zijn huidige intelligentieniveau al bloed aan zijn virtuele handen heeft. Volgens berichten heeft het Israëlische leger AI ingezet bij aanvallen waarbij burgers in Gaza omkwamen, terwijl de aanval van de industrie op het klimaat onverminderd doorgaat. Elke dag ‘verbruikt ChatGPT evenveel elektriciteit als een kleine stad’.
Kennis vergaren
De twee boeken waarschuwen ook voor de obscure manier waarop AI zijn kennis vergaart. In tegenstelling tot klassieke hardware en besturingssystemen wordt generatieve AI ‘niet gepro- grammeerd, maar getraind’, aldus Barrat – in de woorden van Yudkowsky en Soares; ‘verbouwd, niet vervaardigd’. Na het bouwen van een generatieve AI weten programmeurs ‘nauwelijks wat er omgaat in het brein van zo’n machine’.
In The Intelligence Explosion wordt Stuart Russell, professor in computerwetenschappen, aangehaald. ‘We hebben geen idee hoe het werkt, en toch stellen we het bloot aan honderden miljoenen mensen’, aldus de professor. Door toegang te verlenen tot onze sociale media en financiële inrichtingen ‘geven we AI alle middelen om de wereld over te nemen’. Yudkowsky en Soares hebben zo hun twijfels bij wereldovername, maar beamen dat we nooit zeker kunnen weten wat voor ‘voorkeuren’ er zullen ontstaan. Haar ‘buitenaardse mechanische geest’ zal beschikken over een ‘interne psychologie’ die niet overeenkomt met de onze. Er is geen enkele reden om te verwachten dat tot die voorkeuren ‘gelukkige, gezonde mensen met een vervuld leven’ zal behoren, aldus de auteurs.
De doemscenario’s zoals beschreven in If Anyone Builds It, Everyone Dies zijn angstaanjagend. Een op hol geslagen superintelligente AI kan financiële instellingen of laboratoria met dodelijke ziektes infiltreren, mensen afpersen, gewetenloze leiders omkopen of aan de haal gaan met grootschalige wapensystemen. In de VS zijn bijna vijftienduizend AI-start-up waarvan ten minste enkele medewerkers het gevaar reëel achten, aldus Barrat; ‘De meeste experts met wie ik heb gesproken achten een AI-overname waarschijnlijk’, schrijft hij. Yudkowsky en Soares noemen verschillende vooraanstaande computerwetenschappers die publiekelijk hebben gezegd dat er minstens 10 procent kans is dat AI de mensheid zal uitroeien.
We praten steeds meer als ChatGPT
Sinds de introductie van ChatGPT wordt er niet alleen meer geschreven, maar ook anders. Mensen nemen steeds vaker de stijl en toon van de chatbot over.
In e-mails, sollicitatiebrieven en zelfs WhatsApp-berichten duiken formuleringen op die doen denken aan standaardantwoorden van een taalmodel: beleefd, volledig, neutraal, soms iets te gepolijst, aldus The Atlantic. Taalwetenschappers noemen dit verschijnsel ‘AI-speak’ of ‘prompt-speak’: een manier van communiceren waarin nuance, humor of rafelranden verdwijnen. The Atlantic beschreef hoe jongeren elkaar mailen in een stijl die ‘glad en zonder frictie’ aandoet – alsof elke zin door een algoritme is getest op beleefdheid. Het gaat vaak om uitdrukkingen die veilig en voorspelbaar zijn, zoals ‘I completely understand your concern’ of ‘I appreciate your feedback’.
Critici vrezen dat deze invloed subtiel maar verstrekkend is. Waar sociale media ooit zorgden voor meer losse en informele taal, introduceert ChatGPT juist een toon die meer wegheeft van corporate jargon. Daarmee dreigt menselijke communicatie zijn emotionele schakeringen en speelsheid te verliezen.
In een wereld waarin AI steeds vaker de antwoorden levert vóór de vraag is gesteld, waarschuwt Africa Is A Country, dooft onze nieuwsgierigheid mogelijk langzaam uit. Gemak gaat boven kritisch denken doordat lezers samenvattingen consumeren in plaats van teksten zelf te analyseren. Democratische betrokkenheid en politieke controle zouden worden verzwakt omdat burgers zich minder afvragen welke belangen schuilgaan achter de informatie.
Albanië gaat wat dat betreft een gewaagd experiment aan: hier werd in september Diella, een AI-chatbot, gepromoveerd tot virtueel minister, met als portefeuille het beheren van publieke aanbestedingen en het tegengaan van corruptie. Volgens de regering moet de digitale bewindvoerder zorgen voor meer transparantie en efficiëntie, maar critici waarschuwen dat de benoeming vooral symbolisch is.
Wat nu? Alle drie de auteurs stellen dat er een embargo moet komen op AI-ontwikkeling totdat we een beter idee hebben over hoe de toekomst eruit zal komen te zien. Yudkowsky en Soares treden meer in detail; ze stellen dat er wetten en ‘internationale regelgevingskaders’ moeten komen waarmee ‘het verboden wordt om als AI-bedrijf in dit tempo kunstmatige intelligentie te ontwikkelen’.
Door de politieke verlamming in Washington is het onwaarschijnlijk dat hieraan gehoor wordt gegeven. Toch betuigen Yudkowsky en Soares dat het hoog tijd is dat mensen die hiermee instemmen zich erover uitspreken. Draag bij door contact op te nemen met wetgevers, te stemmen op kandidaten die deze problemen begrijpen, protesten bij te wonen en door vrienden en familie op de hoogte te stellen van de gevaren, aldus de auteurs. Ze zullen je aanvankelijk misschien ‘vreemd aankijken’, maar als er ook maar een kans bestaat dat het geschetste scenario waar is, dan hebben we wel iets belangrijkers aan ons hoofd dan zo nu en dan een meewarige blik.
De Trump-regering wil niets weten van AI-regulering
In weerwil van de druk van het Witte Huis, dat zich verzet tegen regulering van kunstmatige intelligentie, heeft de democratische gouverneur van Californië, Gavin Newsom, maandag een reeks wetten ondertekend die onder meer voorschrijven dat de leeftijd van gebruikers moet worden gecontroleerd, dat er regelmatig waarschuwingsberichten moeten worden weergegeven en dat er protocollen voor zelfmoordpreventie moeten worden opgesteld.
360 aanbieding: 3 maanden digitaal voor maar 15 euro.
De goedkeuring van deze wetteksten volgt op een reeks zelfmoorden onder tieners die fictieve intieme relaties hadden opgebouwd met AI-chatbots. ‘De ondertekening van dit wetsvoorstel weerspiegelt de wil van Newsom om de bescherming van kinderen te garanderen en tegelijkertijd het leiderschap van Californië op het gebied van kunstmatige intelligentie te behouden’, merkt Los Angeles Times op.
Helikopterouders, bulldozerouders en curlingouders staan in de weg van een gezonde ontwikkeling van hun kroost, dat juist moet leren zelfredzaam te zijn. ‘Obstacle parenting’ is de nieuwe opvoedfilosofie.
Sinds kort probeer ik het leven van mijn kinderen iets moeilijker te maken. Of tenminste niet makkelijker. Als ze een probleem ervaren is de verleiding groot om er iets tegen te doen, maar die weersta ik dan. Ik help mijn huilende kleuter niet met zijn puzzel en ik geef hem geen zetje als hij het klimrek niet op durft. Ik tover in het weekend geen dichtgetimmerd activiteitenprogramma uit mijn hoed en sta dan ook geen tv toe. Ik laat hen worstelen met de existentiële vraag hoe de tijd door te brengen, een vraag die in de menselijke geschiedenis pas recentelijk is ontspoord door een cultuur van dwingende ouderlijke aandacht en nu door de graaiende klauwen van verstikkende technologie. Decennialang lieten ouders hun kinderen zonder enig toezicht in groepjes door de buurt dwalen, maar in de jaren negentig verschoof de opvoedcultuur richting ‘intensive parenting’: opvoeding met hoge betrokkenheid en ononderbroken contact, waarbij elke vorm van zelfredzaamheid als teken van verwaarlozing werd gezien. Ouders begonnen hun kleuters te schaduwen in de speeltuin, bij kinderpartijtjes waren er vaak meer ouders dan kinderen aanwezig en scholieren werden steeds vaker met de auto gebracht.
Er is een alomtegenwoordige druk voor ouders om te presteren, een druk die diep is geïnternaliseerd. Helikopterouders – ouders die constant om hun kinderen heen zoemen in zowel de fysieke als de digitale wereld – zijn inmiddels de norm. Bulldozerouders maken elk obstakel voor hun kind met de grond gelijk; ze springen tegen iedereen in de aanval, van docenten die te moeilijke opgaven geven tot andere kinderen die te lang op de schommel blijven zitten. Ze doen dit uit liefde, maar ook uit angst; we willen dat onze kinderen gelukkig en veilig zijn, en daarnaast willen we dat andere ouders ons als verantwoordelijk en betrokken zien.
Controle
Elke keer dat je als ouder grijpt, elke keer dat je je best doet om een driftaanval of teleurstelling uit de weg te gaan, voelt dat misschien als de juiste keuze. Maar experts waarschuwen dat zo veel controle op de lange termijn schadelijk kan zijn voor de psychologische en emotionele ontwikkeling van een kind. En nu technologie in elk aspect van ons leven is doorgedrongen, zijn schermen er om te sussen en af te leiden, waarmee ze voldoen aan de door ouders opgelegde verwachting van voortdurende interventie.
Ik raak er steeds meer van overtuigd dat het onvermogen om ook maar een moment van verveling, ongemak of frustratie te hebben zonder te grijpen naar een scherm of zintuiglijke afleiding, de beste geesten van mijn generatie heeft geruïneerd. Maar voor de kinderen is er nog hoop: misschien moeten we niet méér doen, maar juist minder. Ik heb mezelf daarom laten leiden door een nieuwe opvoedfilosofie: ‘obstacle parenting’. Bij obstacle parenting maak je de dingen een tandje moeilijker voor je kinderen en laat je ze hun problemen zelf oplossen. Mijn kleuter is gek op computerspelletjes, dus laten we haar gamen – niet op een iPad maar op een Macintosh uit 1997. Haar spanningsboog voor spellen als Lemmings of SimTower bedraagt ongeveer een half uur, waarna ze gefrustreerd raakt of zich begint te vervelen; deze spellen, die al meer dan dertig jaar oud zijn, waren niet bedoeld om verslavend te zijn of iemand urenlang te hypnotiseren. Ook zijn ze niet zo makkelijk te beheersen voor een vijfjarige. Toch begint ze er langzamerhand beter in te worden. Van mij hoeven die spellen niet sneller en flitsender te worden. Ze hoeven niet verrijkend of vermakend of zelfs educatief te zijn. Ik wil alleen maar dat mijn kind zelf iets probeert uit te vogelen, vooral als het moeilijk is, of saai.
Professor Jonathan Haidt van New York University, auteur van het boek Generatie Angststoornis, beargumenteert dat sociale media een ‘jeugdherprogrammering’ teweeg hebben gebracht, wat de afgelopen jaren heeft geleid tot een piek in psychische problemen en lijden onder tieners en jongvolwassenen. Haidt legt een verband tussen de verschuiving van ontdekking en vrijheid naar structuur en toezicht en de crisis onder jongeren, die volgens hem niet de kans hebben gekregen om de wereld zonder hun ouders te ontdekken en zo eigenschappen als zelfredzaamheid en zelfverzekerdheid te ontwikkelen. In plaats daarvan zitten ze thuis naar hun telefoon te staren.
In Canada vormen vijftien- tot vierentwintigjarigen de eenzaamste leeftijdscategorie; een vijfde van de alle tieners die zichzelf in 2019 als mentaal gezond beschreven, voelde zich in 2023 niet langer zo. Tieners doen vandaag de dag minder aan seks en drugs, waarschijnlijk doordat ze minder tijd met hun leeftijdsgenoten doorbrengen dan vroeger. Dat er sprake is van een crisis wordt algemeen erkend, maar Haidts conclusie (dat sociale media de boosdoener zijn) wordt alom betwist. Professor Candice L. Odgers van de Universiteit van Californië in Irvine schrijft in het blad Nature bijvoorbeeld dat het bestaande onderzoek de bewering dat sociale media mentale problemen veroorzaken niet ondersteunt. Wel is het zo dat jongeren met psychische problemen deze platforms eerder op een andere manier gebruiken.
Of Haidt het nou bij het juiste eind heeft of niet, ouders kunnen hun kinderen nooit eeuwig tegen het scherm behoeden. Onthouding is overigens nooit een effectieve strategie geweest om schade te voorkomen. De laatste jaren hebben veel overlegorganen in Canada, waaronder de Vancouver School Board (VSB), een verbod opgelegd op telefoons in het klaslokaal. Voormalig voorzitter van de VSB Patti Bacchus noemde dit soort maatregelen ‘een twintigste-eeuwse oplossing voor een eenentwintigste-eeuws probleem’. ‘Deze kinderen moeten worden opgeleid tot kritische wereldburgers,’ zei ze tegen de CBC, de Canadese publieke omroep. Met zulk soort beleid wordt overwerkte docenten alleen maar meer ver- antwoordelijkheid opgelegd. Je kan het heel goed eens zijn met de verbanning van verslavende invloeden uit scholen – zo mag je op school ook niet meer roken – en tegelijkertijd erkennen dat er betere oplossingen zijn dan het simpelweg wegnemen van beeldschermen.
Het verschil tussen 2025 en de voorspoedige jaren negentig ‘is niet dat iedereen toen beter kon omgaan met oningevulde tijd. Het zit hem erin dat tijd simpelweg oningevuld kon blijven zonder dat je meteen werd verzwolgen door gapende muil van het scherm’, aldus Kathryn Jezer-Morton in The Cut. Het is een treffende metafoor; als je je er niet tegen verzet, slokt het scherm alles om zich heen op. Rachel Kushner, die in Harper’s schrijft over haar zoon Remy en zijn passie voor oude raceauto’s, merkt op dat zijn klasgenootjes zich nauwelijks lijken te interesseren voor zijn zelfgebouwde wagens – in tegenstelling tot beveiliger op zijn school. Deze geeft aan dat de jeugd van tegenwoordig nauwelijks hobby’s heeft. Op Kushners vraag ‘Waarom niet?’ antwoordt hij: ‘Door het internet.’
Generatieve AI
En toen kwam generatieve AI, het ultieme zwarte gat voor alle nieuwsgierigheid. Met elk wetenschappelijk artikel dat uitkomt over de schadelijke effecten van generatieve AI raak ik steeds bezorgder over hoe afhankelijk mijn kinderen zullen worden van technologie. Op middelbare scholen en universiteiten gebruiken leerlingen sites zoals ChatGPT om hun opdrachten en essays te schrijven, waardoor creativiteit, kritisch denken en daarmee het volledige leerproces achterwege worden gelaten. Onlangs ontdekte een onderzoeker van MIT dat het gebruik van LLM’s (large language models, het soort AI dat ChatGPT ook gebruikt) voor schrijfopdrachten ‘potentiële cognitieve schade’ aanricht: in een periode van vier maanden zagen onderzoekers dat proefpersonen die LLM’s gebruikten ‘consequent slechter presteerden op neurale, linguïstieke en gedragsvaardigheden’.
Het droevige is dat veel jongeren inzien dat deze hulpmiddelen slecht voor ze zijn, maar ze evengoed gebruiken: uit een enquête onder 423 Canadese leerlingen bleek dat 59 procent van hen AI gebruikt voor huiswerk, ondanks dat de meesten toegaven dat ze daardoor minder leerden en het gevoel hadden af te kijken. Bij een ander onderzoek uit de VS onder volwassen tussen de achttien en zevenentwintig jaar bleek dat bijna de helft zou willen dat de platforms die ze dagelijks gebruiken, zoals Twitter en TikTok, nooit waren uitgevonden. Een eerstejaarsstudent aan de universiteit van Ontario zei in een recent artikel in New York Magazine dat ze vond dat ze verslaafd was aan ChatGPT en sociale media. Door regelmatig gebruik kwam ze in een spiraal terecht: ze keek urenlang filmpjes op TikTok (‘totdat mijn ogen pijn begon- nen te doen’) in plaats van haar huiswerk te maken, en zette vervolgens AI in voor laatstgenoemde taak. Voor veel gebruikers zijn deze apps geen hulpmiddel, maar een valstrik.
Technologie breidt zich natuurlijk steeds verder uit. Ik weet dat als mijn kinderen pubers zijn, er vast weer nieuwe technologie is waarover ik me zorgen kan maken. En mijn kinderen zijn niet gevrijwaard van de grijpende tentakels van AI; Mattel, de fabrikant van Barbie en Hot Wheels, kondigde onlangs een ‘strategische samenwerking’ aan met OpenAI (de makers van ChatGPT) om ‘de magie van AI met leeftijdsgebonden speelervaringen te combineren’. Maar dit soort specifieke gevallen van technologische implementatie zijn minder zorgwekkend dan wat ze blootlegt en uitbuit: een gebrek aan nieuwsgierigheid, een onwil om uitdagingen aan te gaan, een tekort aan zelfvertrouwen.
Dit zijn geen inherente eigenschappen, maar ze worden gevoed, deels door onze goedbedoelde neiging om kinderen bij elke stap bij te staan.
Elke generatie ouders probeert te leren van de fouten van de vorige generatie. Soms levert dit onmiskenbaar resultaat – zoals de uitvinding van kinderzitjes, en het feit dat kinderen minder worden geslagen. Maar vaak ook voelt het alsof we in plaats van veiligheid een marketingstrategie aangereikt krijgen, waarbij steeds nieuwe trends opkomen om de hardnekkige, existentiële angsten van het ouderschap te sussen. De Rapley-methode bijvoorbeeld, waarmee overgewicht en kieskeurig eten voorkomen kunnen worden; of gentle parenting, waarbij de nadruk ligt op het erkennen en verwerken van emoties. Deze strategieën suggereren dat de oplossing altijd ligt bij meer betrokkenheid en participatie. Met obstacle parenting wordt een nieuwe weg ingeslagen, waarbij het mijn plicht is mijn kinderen te behoeden tegen alle technologie die hun zintuigen afvlakt. Het doel is eenvoudigweg dat ze leren hun eigen verstand te gebruiken om de uitdagingen en problemen die zich voordoen het hoofd te bieden.
Onvoldoende vrijheid
Ik ben lang niet de enige ouder die het zo aanpakt. Rheana Murray vertelt in The Atlantic het verhaal van een aantal ouders die in Portland, Maine collectief een vaste telefoon installeerden waarmee kinderen zelf afspraakjes konden maken of gewoonweg konden praten. ‘We vragen onze kinderen zelden om stil te zijn en met elkaar te communiceren,’ legt een ouder uit. Ook geven we ze onvoldoende vrijheid om zelfstandig te bewegen, al proberen steden hier wereldwijd verandering in te brengen door avontuurlijke speelplaatsen te bouwen die zijn ontworpen voor risicovoller en fantasierijker spel. De nauwe tunnelglijbanen en klimrekken van ontwerpen zoals de sθәqәlxenәm ts’exwts’áxwi7 (‘het regenboogpark’) in Vancouver maken het ouders moeilijker om hun kinderen achterna te gaan. Ze moeten het zelf maar uitzoeken. Uiteindelijk draait obstacle parenting om het ontwikkelen van concentratie en uithoudingsvermogen, twee vaardigheden die verloren zijn gegaan door uitbesteding aan de technologie. De ouders die vaste telefoons installeerden boekten succes doordat ze het gezamenlijk deden, en dat herinnert eraan dat we niet altijd volledig hebben vertrouwd op ouders alleen om hun kinderen groot te brengen. Er bestond een breder netwerk van vrienden en familie, buren en tieneroppassers. Tegelijkertijd kregen kinderen meer toegang tot hun leeftijdgenoten zonder dat elke interactie nauwlettend in de gaten werd gehouden. Structurele interventies, zoals de risicovollere speeltuin, helpen bij dit probleem; ze belichamen het principe dat ouders het niet allemaal zelf hoeven uit te vogelen. De verdwijning van zogeheten third places is een collectief probleem, en hetzelfde geldt voor onveilige straten die het vooruitzicht je kind alleen naar school te laten gaan angstaanjagend maken.
Obstacle parenting draait niet alleen om het overkomen van fysieke obstakels. Ik zie het meer als oefening in ouderlijke terughoudendheid. Ik laat mijn kinderen met rust als ze zich concentreren; als ze me om hulp vragen wacht ik even en kijk ik of ze zelf met een oplossing komen. Ik laat me verrassen door wat ze zonder mijn inmenging allemaal ondernemen en bedenken. Wel brengt het de vraag met zich mee wat ik op die momenten met mezelf aan moet. Als we onze kinderen willen aanleren om de lokroep van de technologie te weerstaan, moeten we het goede voorbeeld geven. Hier hebben veel volwassenen moeite mee, zelfs degenen onder ons die moeiteloos grenzen stellen aan de schermtijd van hun kinderen. Dit heeft er deels mee te maken dat mijn telefoon zoveel essentiële functies in mijn leven vervult. Of ik nou aan het werk ben, een afspraak inplan bij de dokter, reageer op belangrijk nieuws van een naaste of een samenvatting van een horrorfilm lees op Wikipedia, mijn kinderen zien eigenlijk maar één ding: ik staar naar mijn telefoon. Mijn zoontje begint mijn gedrag al uitstekend te imiteren en kon de camerafunctie van mijn telefoon openen voordat hij zijn eerste stapjes had gezet. De uitdaging van obstacle parenting is niet zozeer om de technologie weg te houden van mijn kinderen, maar van mijzelf.
Laatst vloog ik met mijn dochter van Toronto naar Vancouver en besefte me dat ik een schermloze vlucht voor de boeg had, of ik het nou wilde of niet; mijn telefoon was bijna leeg en ik moest het laatste beetje van de batterij gebruiken om bij aankomst mijn man te bellen, die ons zou komen ophalen. Gelukkig hadden we een boek met kleurplaten, een tekenblok en een pakje kleurpotloden bij ons, die ons het grootste deel van de vlucht door hielpen. We tekenden samen, bedachten woordspelletjes, babbelden over de leukste momenten van de vakantie en discussieerden over wat de beste manier is om een paard te tekenen: eerst het hoofd of eerst de benen?
Vier uur na het opstijgen liep ik door het donkere gangpad richting het toilet achterin het vliegtuig. het leek alsof ieder stil gezicht, jong en oud, werd verlicht door de gloed van een scherm. Ik keerde terug naar mijn stoel. De spelletjes waren op. ‘Ik verveel me,’ zei mijn dochter. ‘Soms moet je je vervelen,’ zei ik. We deden het zonneschermpje omhoog en keken naar de wolken. Met mijn dochters hoofd leunend tegen mijn schouder wachtten we samen de landing af.
Over de gemakken en gevaren van kunstmatige intelligentie is veel gezegd, maar in het dagelijks leven lijken we ons er weinig van aan te trekken. Steeds vaker klinkt bovendien de voorspelling dat het zo’n vaart nog niet loopt.
Nudify- en undresswebsites, waarmee gebruikers met een paar klikken ‘naaktfoto’s’ kunnen genereren, zijn uitgegroeid tot een miljoenenindustrie. Een nieuwe analyse toont aan dat deze sites draaien op technologie van Amerikaanse bedrijven.
Al jaren schieten zogeheten nudify-apps en websites als paddenstoelen uit de grond.
Ze stellen gebruikers in staat om zonder toestemming schadelijke beelden van vrouwen en meisjes te creëren, waaronder materiaal dat onder kindermisbruik valt. Ondanks pogingen van wetgevers en technologiebedrijven om deze diensten in te perken, bezoeken miljoenen mensen nog altijd maandelijks de sites. Volgens nieuw onderzoek verdienen de beheerders van de sites mogelijk miljoenen dollars per jaar.
Een analyse van 85 nudify- en undress-websites, waarmee mensen foto’s kunnen uploaden en via AI in enkele klikken ‘naaktfoto’s’ kunnen genereren, wijst uit dat de meeste sites gebruikmaken van technologie van Google, Amazon en Cloudflare. Uit het onderzoek, gepubliceerd door Indicator, een platform dat digitale misleiding onderzoekt, blijkt dat de websites de afgelopen zes maanden samen gemiddeld zo’n 18,5 miljoen bezoekers per maand trokken, en mogelijk gezamenlijk tot 36 miljoen dollar per jaar opleveren.
‘Ze hadden per direct moeten stoppen toen duidelijk werd dat seksuele intimidatie het enige doel was’
Alexios Mantzarlis, medeoprichter van Indicator en onderzoeker op het gebied van online veiligheid, beaamt dat het ondoorzichtige nudify-ecosysteem is uitgegroeid tot een ‘winstgevende industrie’ die wordt ondersteund door ‘Silicon Valleys tolerante houding ten opzichte van generatieve AI’. ‘Ze hadden per direct moeten stoppen met het leveren van diensten aan AI-nudifiers toen duidelijk werd dat seksuele intimidatie het enige doel was.’ Het maken en verspreiden van expliciete deepfakes is bovendien in toenemende mate strafbaar.
Uit het onderzoek blijkt dat Amazon en Cloudflare webhosting en content delivery-diensten leveren aan 62 van de 85 onderzochte websites, terwijl Googles systemen op 54 van de websites worden gebruikt. Daarnaast maken de nudifysites gebruik van allerlei andere diensten, zoals betaalsystemen van reguliere bedrijven.
Ryan Walsh, woordvoerder van Amazon Web Services (AWS), zegt dat AWS duidelijke gebruiksvoorwaarden heeft die klanten verplichten om zich aan de ‘geldende’ wetgeving te houden. ‘Wanneer we meldingen ontvangen van mogelijke schendingen van onze voorwaarden, beoordelen we deze snel en nemen we maatregelen om verboden inhoud uit te schakelen,’ aldus Walsh. Hij voegt daaraan toe dat mensen incidenten kunnen melden bij hun veiligheidsteams.
In opmars
‘Sommige van deze sites overtreden onze voorwaarden, en onze teams nemen maatregelen om deze overtredingen aan te pakken en langetermijnoplossingen te ontwikkelen,’ zegt Google-woordvoerder Karl Ryan. Hij wijst erop dat ontwikkelaars akkoord moeten gaan met het beleid van Google, waarin illegale en intimiderende inhoud expliciet verboden wordt. Cloudflare had bij het ter perse gaan van dit artikel nog niet gereageerd op vragen van WIRED. WIRED noemt in dit artikel bewust geen specifieke nudifywebsites, om deze niet extra onder de aandacht te brengen.
Nudify- en undress-websites en -bots zijn sinds 2019 in opmars en komen voort uit de technieken die werden gebruikt om de eerste expliciete deepfakes te creëren. Netwerken van onderling verbonden bedrijven – eerder door Bellingcat in kaart gebracht – bieden deze technologie online aan en verdienen er geld mee.
In grote lijnen gebruiken deze diensten AI om foto’s om te zetten in niet-consensuele, expliciete beelden. Vaak verdienen ze geld door ‘credits’ of abonnementen te verkopen waarmee foto’s kunnen worden gegenereerd. De explosie van generatieve AI-beeldgeneratoren in de afgelopen jaren heeft hun impact aanzienlijk vergroot. Foto’s worden van sociale media gestolen en gebruikt om schadelijke beelden te maken: als nieuwe vorm van cyberpesten en -misbruik maken tienerjongens wereldwijd beelden van hun vrouwelijke klasgenoten. Dit is traumatiserend voor de slachtoffers en de beelden zijn vaak moeilijk van het internet te verwijderen.
Russische hackers hebben er valse, met malware geïnfecteerde versies van gemaakt
Op basis van berekeningen van abonnementskosten, conversieratio’s en webverkeer richting betaalproviders, schatten de onderzoekers van de 85 websites dat 18 daarvan in de afgelopen zes maanden tussen de $2,6 miljoen en $18,4 miljoen opleverden. Dat komt uit op zo’n $36 miljoen per jaar. (Ze merken op dat dit een voorzichtige schatting is, omdat hierbij geen rekening wordt gehouden met websites of transacties die buiten de platforms plaatsvinden, zoals Telegram.) Een rapportage van het Duitse blad Der Spiegel wijst erop dat één prominente site over een miljoenenbudget beschikt. Een andere website claimt al miljoenen te hebben verdiend.
Volgens het onderzoek komen de meeste bezoekers van de tien populairste sites uit de Verenigde Staten. India, Brazilië, Mexico en Duitsland vormen de rest van de top vijf. Hoewel zoekmachines bezoekers naar de nudifywebsites sturen, komt een groeiend deel van het webverkeer tegenwoordig via andere bronnen. Nudifywebsites zijn zó populair geworden dat Russische hackers valse, met malware geïnfecteerde versies ervan hebben gemaakt. In het afgelopen jaar rapporteerde 404 Media dat een van de sites gesponsorde video’s met pornoacteurs produceerde. De websites maken ook steeds meer gebruik van betaalde affiliate- en doorverwijzingsprogramma’s.
‘Uit onze analyse van het gedrag van nudifywebsites blijkt duidelijk dat ze zich willen nestelen in een niche van de adultindustrie,’ zegt Lakatos. ‘Ze zullen waarschijnlijk blijven proberen hun activiteiten daarmee te verweven – een ontwikkeling die zowel door techbedrijven als de sector zelf actief moet worden tegengegaan.’
‘Ze zijn geëvolueerd van enkele amateurprojecten tot een semiprofessionele industrie met miljoenen gebruikers’
Veel van de problemen rondom de techbedrijven die deze platforms draaiende houden, zijn al jaren bekend. Techjournalisten hebben herhaaldelijk aangetoond hoe de deepfake-economie gebruikmaakt van reguliere betaalmethodes, socialemedia-advertenties, zoekmachineverkeer en technologie van grote bedrijven. Toch is er nauwelijks structurele actie ondernomen.
‘Sinds 2019 zijn nudify-apps geëvolueerd van enkele amateurprojecten tot een semiprofessionele ondergrondse industrie met miljoenen gebruikers,’ zegt Henry Ajder, expert op het gebied van AI en deepfakes, die het nudify-ecosysteem in 2020 voor het eerst in kaart bracht. ‘Pas als de bedrijven die deze perverse klantreis faciliteren daadwerkelijk ingrijpen, zullen we enige vooruitgang boeken in het bemoeilijken van toegang tot deze apps en het terugbrengen van hun omzet.’
Er zijn bovendien signalen dat de nudifywebsites hun tactieken aanpassen om repressie of verbod te voorkomen. Vorig jaar meldde WIRED dat de sites gebruikmaakten van single sign-on-diensten van Google, Apple en Discord om gebruikers snel accounts te kunnen laten aanmaken. Veel van deze accounts zijn inmiddels gesloten. Volgens Indicator gebruiken 54 van de 85 onderzochte websites nog altijd het eenvoudige inlogsysteem van Google. Bovendien proberen de makers detectie te ontwijken door tijdens het registratieproces via tussenliggende websites andere URL’s voor te spiegelen.
Giftig
Hoewel techbedrijven en toezichthouders traag hebben gereageerd op misbruik van deepfakes sinds deze meer dan tien jaar geleden voor het eerst verschenen, is er recent enige beweging gekomen in de aanpak ervan. De stadsadvocaat van San Francisco heeft zestien diensten aangeklaagd die zonder toestemming afbeeldingen genereren. Microsoft heeft ontwikkelaars achter deepfakes van beroemdheden geïdentificeerd. Meta heeft een rechtszaak aangespannen tegen een bedrijf dat achter een nudify-app zou zitten dat herhaaldelijk advertenties op hun platform plaatste. Intussen heeft president Donald Trump in de VS de controversiële Take It Down Act ondertekend. Deze wet verplicht techbedrijven om schadelijk beeldmateriaal zo snel mogelijk te verwijderen. Ook de Britse overheid werkt aan wetgeving die het genereren van expliciete deepfakes illegaal maakt.
Deze stappen kunnen nudify- en undressdiensten raken. Maar er is een structurelere aanpak nodig om deze snel groeiende, schadelijke industrie af te remmen. Mantzarlis stelt dat als techbedrijven proactiever en strikter optreden, de ruimte voor nudifywebsites kleiner wordt. ‘Ja, dit soort zaken zullen verhuizen naar minder gereguleerde delen van het internet – niks aan te doen,’ zegt hij. ‘Als websites moeilijker te vinden, te openen en te gebruiken zijn, zullen hun publiek en hun inkomsten afnemen. Helaas is dit een giftig product uit het generatieve AI-tijdperk dat we niet meer kunnen uitwissen. Maar we kunnen het wel aanzienlijk inperken.’
Het aantal mensen dat AI inzet voor therapie groeit razendsnel. Tegelijkertijd trekken deskundigen aan de bel over de mogelijke gevolgen. Kan een AI-therapeut daadwerkelijk positief bijdragen aan je mentale gezondheid?
Ja: ‘De AI keek niet weg. Dus kon ik eerlijk zijn – vaak eerlijker dan tegen de mensen van wie ik houd’
Nathan Filer lag piekerend in zijn bed. ‘Het was na middernacht toen ik scrolde door WhatsApp-berichten die ik eerder had verstuurd. Wat destijds grappig leek, voelde nu alsof ik mijn mond voorbij had gepraat.’ Zonder hoge verwachtingen opende hij ChatGPT en typte dat hij zichzelf voor gek had gezet. ‘Dat is een vreselijk gevoel’, antwoordde de chatbot. ‘Maar dat betekent niet dat je dat ook bent. Wil je me vertellen wat er is gebeurd? Ik beloof dat ik je niet zal veroordelen.’
‘Ik vertelde wat er was gebeurd en de AI reageerde vriendelijk, intelligent en zonder clichés. We bleven chatten. Ik voelde me begrepen en gehoord’, beschrijft Filer in The Guardian. Dat was het begin van een gesprek dat gedurende enkele maanden werd voortgezet. De AI zette hem aan het denken en bracht hem naar eigen zeggen tot indringende inzichten. ‘Maar tegelijk met deze inzichten bleef iets anders me bezighouden: ik was in gesprek met een machine. De AI kon zorgzaamheid, medeleven en emotionele nuances simuleren, maar voelde niets voor mij.’
De chatbot bevestigde dit. ‘Het kon inderdaad reflecteren, betrokken lijken maar voelde niks voor mij.’ De emotionele diepgang kwam helemaal vanuit Filer zelf. ‘Dat was in zekere zin een opluchting. Er was geen sociaal risico, geen angst om te overweldigend of ingewikkeld te zijn. De AI raakte niet verveeld en keek niet weg. Dus kon ik eerlijk zijn – vaak eerlijker dan tegen de mensen van wie ik houd.’
‘Voor mij was dit gesprek met AI een van de meest nuttige ervaringen van mijn volwassen leven’
‘Om me los te maken van vastgeroeste patronen had ik veel tijd, gesprekken en geduld nodig.’ Dat was precies wat ChatGPT hem kon bieden. ‘Ik was nooit te veel, nooit saai. Ik kon komen en gaan wanneer ik wilde.’
Filer is zich ervan bewust dat sommigen deze ervaring vreemd en mogelijk zelfs gevaarlijk vinden. ‘Er zijn berichten van gesprekken met chatbots die rampzalig zijn verlopen. ChatGPT is geen therapeut en kan professionele geestelijke gezondheidszorg voor de meest kwetsbaren niet vervangen. Aan de andere kant is traditionele therapie ook niet zonder risico’s. Denk bijvoorbeeld aan een slechte klik tussen therapeuten en cliënten, of aan breuken en misverstanden.’
‘Voor mij was dit gesprek met AI een van de meest nuttige ervaringen van mijn volwassen leven’, concludeert hij. ‘De chatbot hielp me om te luisteren. Niet naar de ruis, maar naar mezelf. En dat veranderde op de een of andere manier alles.’
Nathan Filer is schrijver, universitair docent, omroepmedewerker en voormalig verpleegkundige in de geestelijke gezondheidszorg. Hij is de auteur van This Book Will Change Your Mind About Mental Health.
Nee: ‘Een AI-therapeut geeft je niet de tegenspraak die je misschien nodig hebt’
In het Verenigd Koninkrijk erkent de National Health Service (NHS) dat steeds meer mensen AI gebruiken voor therapie, mede vanwege lange wachtlijsten en dure privébehandelingen. ‘De “ChatGPT-psychose” zou volgens sommigen het nieuwste mentale gezondheidsprobleem zijn’, schrijft Laura Kennedy in The Irish Times. ‘Het is mij hoe dan ook duidelijk dat AI-chatbots de neiging hebben om te bevestigen in plaats van te confronteren.’
‘Als je bijvoorbeeld denkt dat elke nieuwe persoon met wie je date een narcist is, in plaats van een imperfect persoon met goede bedoelingen, dan geeft een AI-therapeut je misschien niet de tegenspraak die je nodig hebt.’ Ze vergelijkt het met het praten over je problemen met een goede, maar bevooroordeelde vriend. Zo’n vriend vertelt je meestal dat je gelijk hebt, hoe verkeerd je ook zit.
‘Bevestiging voelt heerlijk en is bovendien verslavend.’ Volgens Kennedy valt de opkomst van AI-therapie niet geheel toevallig samen met een tijd waarin we de therapeutische taal van zijn specialistische betekenis hebben ontdaan. ‘Hoewel termen als narcisme, boundaries, gaslighting en trauma een bepaalde waarde hebben in therapeutische of klinische settings, gebruiken we ze steeds vaker als makkelijke manier om anderen weg te zetten als de slechterik’, waarschuwt Kennedy.
‘Uiteindelijk zal de enige die dit niveau van zelfobsessie kan tolereren, de AI-therapeut zijn’
Door steeds in je ervaring te worden gesteund, kunnen mensen het gevoel krijgen dat anderen ze niets verschuldigd zijn. Volgens Kennedy ervaren we feedback of kritiek daardoor sneller als kwetsend en geven we anderen sneller de schuld. ‘Het wordt een self-fulfilling prophecy. We isoleren onszelf steeds meer om ons fragiele wereldbeeld te beschermen.’
Een therapeut zal het misschien niet pikken als je elke afspraak een uur van tevoren afzegt, maar AI wel. ‘Uiteindelijk zal de enige die dit niveau van zelfobsessie kan tolereren, de AI-therapeut zijn.’
Waardevolle lessen in het leven brengen meestal enig ongemak met zich mee, aldus Kennedy. ‘Om te veranderen en te groeien, en om trouw te blijven aan onze waarden, moeten we soms onze angsten onder ogen zien en dingen doen die ongemakkelijk zijn.’ Daar zal een chatbot je volgens haar zelden toe aanzetten.
‘Het is niet verwonderlijk dat we ons tot machines wenden voor verbinding en bevestiging, nu geestelijke gezondheidszorg steeds minder toegankelijk is. Maar als we onze behoefte aan uitdaging blijven uitbesteden aan technologie die daaraan niet kan voldoen, lopen we het risico verdwaald te raken in een spiegelpaleis dat de werkelijkheid onherkenbaar vervormt.’
Laura Kennedy is een freelance schrijver en journalist. Ze heeft een PhD in filosofie aan Trinity College Dublin en publiceert wekelijks op haar Substack-column Peak Notions.
Boeren kunnen geen chemicaliën meer vinden om resistente onkruiden te bestrijden die hun gewassen bedreigen. Met innovatieve technologie moeten sneller nieuwe opties worden gevonden.
Boeren verliezen terrein in hun decennialange strijd tegen ongewenste wilde planten die resistent zijn geworden tegen veel chemische sproeimiddelen. Volgens de grootste producenten van deze middelen ter wereld, waaronder Bayer, Corteva, BASF en Syngenta, is het dringend tijd om nieuwe chemicaliën te ontwikkelen die de opmars van onkruid en andere plagen, zoals schimmels en insecten, kunnen stuiten.
Sommige onkruidsoorten zijn inmiddels resistent tegen een vijftal verschillende chemicaliën, zegt Bob Reuter, hoofd onderzoek en ontwikkeling bij de landbouwpoot van Bayer. Boeren combineren allerlei middelen om de krachtigste bestrijdingsformule te vinden en pesticideproducenten willen meer vaart zetten achter de ontwikkeling van nieuwe onkruidverdelgers, waarmee jaren gemoeid kunnen zijn. ‘We beginnen een beetje wanhopig te worden,’ zegt Reiter. ‘We beseffen dat onze mogelijkheden zo langzamerhand uitgeput raken.’
Volgens Bayer en concurrenten als Corteva en Syngenta kunnen nieuwe AI-systemen helpen om nieuwe chemicaliën versneld op de markt te brengen, wat tot dusver een langdurig, gecompliceerd en kostbaar proces is. Ze richten zich niet alleen op de ontwikkeling van nieuwe herbiciden, maar ook van nieuwe fungiciden en insecticiden. Syngenta schat dat AI de gemiddelde periode tussen ontdekking en commercialisering van een verdelgingsmiddel met een derde zal bekorten – van vijftien jaar tot tien jaar – en dat het aantal laboratorium- en veldtesten waarschijnlijk met dertig procent zal verminderen.
Hoe het werkt
Bayer gebruikt een AI-systeem, intern ‘CropKey’ gedoopt, dat sneller dan mensen databestanden kan doorzoeken op een chemisch molecuul dat in staat is de proteïnestructuur van een onkruid af te breken. Door CropKey geselecteerde moleculen kunnen bij veldtests voor beter resultaten zorgen dan moleculen die bij conventioneel onderzoek boven komen drijven, zegt Reiter. Het zet het bedrijf op voorsprong – zoals kaarten tellen tijdens een spelletje blackjack – en is vergelijkbaar met de manier waarop farmaceutische bedrijven AI inzetten om sneller moleculen te vinden die een bepaalde ziekte attaqueren.
Volgens de bedrijfstak is een bijkomend voordeel van met AI geselecteerde moleculen dat ze gedurende het selectieproces op toxiciteit voor mensen kunnen worden gescreend – van doorslaggevend belang voor pesticiden die op gewassen voor menselijke consumptie worden gespoten – evenals op milieuveiligheid en kosten.
Het systeem heeft Bayer geholpen om een nieuwe onkruidverdelger te ontwikkelen, Icafolin genaamd, die in 2028 in Brazilië zal worden gelanceerd. Het zal het eerste nieuwe herbicide zijn in meer dan dertig jaar, aldus het bedrijf. Ook doet het bedrijf inmiddels drie keer zoveel onderzoek naar nieuwe manieren om onkruid te verdelgen dan tien jaar geleden.
‘Het is niet te geloven hoe snel het onkruid zich aanpast,’
Monsanto, dat inmiddels eigendom is van Bayer, heeft in de jaren negentig van de vorige eeuw een revolutie in de onkruidverdelging ontketend met de verkoop van genetisch gemodificeerde sojaboonzaden die bestand waren tegen glyfosaat, een herbicide dat onkruid doodt door de interne proteïneproductie ervan te stoppen. Het gebruik van glyfosaatsprays, zoals Roundup van Monsanto, steeg tot ongekende hoogte.
Maar toen ontwikkelden zich superonkruidsoorten waartegen glyfosaat minder effectief was zodat boeren hun toevlucht moesten nemen tot andere herbiciden, of tot planten die bestand waren tegen meerdere soorten chemicaliën. Daarbij komt dat Bayer miljarden dollars aan schadevergoedingen heeft moeten betalen omdat Roundup kanker zou veroorzaken, iets wat het bedrijf ten stelligste ontkent.
Sean Elliot, de zesde generatie uit een familie van mais- en sojabonenboeren in Iriquois County, Illinois, ontdekte aan het begin van deze eeuw voor het eerst invasieve waterhennepplanten op zijn land. Die kon Roundup van Monsanto destijds nog moeiteloos de baas. Maar twee decennia later is glyfosaat niet langer tegen het onkruid opgewassen en vreest Elliott dat waterhennep ook resistent begint te raken tegen een ander chemisch middel dat hij gebruikt, 2,4-D. Hij combineert 2,4-D nu met een derde chemisch middel, glufosinaat, om de waterhennep in bedwang te houden. Dat zal over een paar jaar misschien niet meer genoeg zijn.
‘Het is niet te geloven hoe snel het onkruid zich aanpast,’ zegt Elliott. ‘Het is zo invasief dat als we niets nieuws bedenken om het binnen de perken te houden, we het risico lopen op grote oogstverliezen.’
Verergeren
De ontwikkeling van nieuwe pesticiden kan ingewikkelder zijn dan die van nieuwe geneesmiddelen, zegt Bill Anderson, bestuursvoorzitter van de Duitse farmacie- en pesticidegigant Bayer. Bedrijven richten zich voornamelijk op het verbeteren van de belangrijkste chemicaliën die al op de markt zijn en het is tientallen jaren geleden dat er voor het laatst een nieuw herbicide is geïntroduceerd. ‘Je moet in staat zijn om een bepaalde plantensoort te doden zonder dat dat ten koste gaat van andere plantensoorten, en ook van vissen, insecten en vogels,’ zegt Anderson. ‘De kans dat je dat lukt zonder hulp van computers is uiterst gering.’
Jay Feldman, directeur van Beyond Pesticides, een in Washington D.C. gevestigde non-profitorganisatie die pleit voor vermindering van het gebruik van landbouwchemicaliën, waarschuwt dat het sproeien van nieuwe chemicaliën op onkruid dat snel resistent raakt tegen tal van herbiciden de situatie alleen maar verergert en leidt tot het ontstaan van nog krachtigere superonkruidsoorten. Door de huidige aanpak van de landbouwbedrijven verliezen oudere herbiciden hun effectiviteit tenzij ze worden gecombineerd met nieuwe chemicaliën, zegt hij, zodat boeren uitsluitend aangewezen zijn op de nieuwe zaden en chemische producten die een bedrijf aanbiedt. ‘Daarmee is er een pesticidetredmollen ontstaan,’ zegt Feldman.
Nog maar vijf jaar geleden kon een bedrijf een jaar doen over het screenen van honderdduizenden chemische verbindingen. Potentiële verbindingen werden door middel van arbeidsintensieve processen getest in laboratoria en kassen om te zien wat hun interactie was met andere planten, dieren, mensen en het milieu, en of ze effectief waren tegen de beoogde plaag, zegt Shaun Selness, hoofd van de afdeling nieuwe landbouwtechnologieën van Bayer. ‘Je kon een jaar of drie bezig zijn met veldstudies om een middel op te schalen, en uiteindelijk tot de conclusie te komen dat het toch niet werkte,’ zegt Selness. ‘Dat gebeurde heel regelmatig.’
‘Het is een must’
Het analyseren en screenen van chemische moleculen met behulp van AI kan het proces helpen bekorten tot zo’n twee à drie maanden en eerder in het ontwikkelingsproces toxiciteitsproblemen voorspellen, zegt hij.
Syngenta, de grootste pesticideproducent in de VS, zegt voor een zelfde benadering te kiezen bij de ontwikkeling van nieuwe herbiciden en insecticiden en bij al zijn onderzoeksprojecten AI-modellen te gebruiken om nieuwe actieve ingrediënten te vinden.
De technologie helpt het bedrijf niet alleen om de milieueffecten van nieuw producten beter te evalueren, maar ook om te zien of ze goedkoper kunnen worden geproduceerd, zegt Camilla Corsi, hoofd van de afdeling gewasbeschermingsonderzoek van Syngenta. ‘Het helpt ons om alle uitdagingen onder de loep te nemen waarmee onze bedrijfstak bij chemische innovatie wordt geconfronteerd.’
Sean Elliott, de boer uit Illinois, zal iedere nieuwe technologie die hem de komende jaren kan helpen zijn oogst te redden met open armen ontvangen. ‘Het is een must,’ zegt hij.
Deze website gebruikt cookies. Door de site te gebruiken gaan we er vanuit dat je ze accepteert. OK
Manage consent
Over onze cookies
Deze website gebruiks cookies die de gebruikservaring verbeteren. De cookies die we als noodzakelijk categoriseren worden opgeslagen door je browser en zijn essentiëel voor een goede werking van de basisfuncties van deze website. We gebruiken ook third-party cookies die ons helpen te analyseren hoe deze website gebruikt wordt. Deze cookies kunnen ook voor marketingdoeleinden worden gebruikt. Ze worden alleen door je browser opgeslagen als je daar toestemming voor geeft.
Onze noodzakelijke cookies zijn essentiëel voor het goed functioneren van deze website. De basisfuncties en beveiliging van deze website zijn hiervan afhankelijk. Deze cookies slaan geen persoonlijke informatie op.
