Op 14 juni nam het Europees Parlement de AI Act aan, een wet die ontworpen is om kunstmatige intelligentie te reguleren en burgers te beschermen tegen de negatieve effecten. Is regulering noodzakelijk, of een rem op technologische vooruitgang en de economie?
Ja: ‘De wet komt laat, maar nog niet te laat’
Laten we ons geen illusies maken: op de belangrijkste gebieden van digitale technologie is Europa het speelterrein geworden van grote Amerikaanse concerns. Europa, dat veel te traag was om te begrijpen wat er gebeurde, is achterop geraakt. De Algemene Verordening Gegevensbescherming en andere maatregelen kwamen te laat. Om nog maar te zwijgen van het feit dat de techreuzen, die zich bewust zijn van hun macht, zich niet laten imponeren.
De volgende golf, die allang in de maak is, is nog krachtiger: kunstmatige intelligentie (AI). Wie niet onder een steen heeft gelezen, zal zich hebben gerealiseerd dat er een revolutie aan de gang is, met de adembenemende informatie op ChatGPT of beeldgeneratoren zoals Stable Diffusion. De wetgeving over kunstmatige intelligentie, of AI Act, die op woensdag 14 juni door het Europees Parlement is aangenomen, moet voorkomen dat Europa opnieuw achteropraakt en tegelijkertijd de Europese burgers beschermen tegen de negatieve gevolgen van deze technologieën. Maar kan AI echt worden gereguleerd? Is het niet al te laat?
Kunstmatige intelligentie is vorig jaar niet met een vingerknip geboren: het is de vrucht van een lange draagtijd. Begin jaren 2000 ging het in een hogere versnelling, toen computers die snel genoeg waren om bergen gegevens te verwerken tegen betaalbare prijzen konden worden geproduceerd. Sindsdien hebben deze technologieën hun weg gevonden naar ons dagelijks leven: bedrijven gebruiken ze om kandidaten te selecteren; Alexa, Siri en andere assistenten verwachten van ons dat we hen vertellen wat we willen, enzovoort. Ook hier wordt de markt gedomineerd door de grote Amerikaanse techreuzen.
Maar AI staat nog in de kinderschoenen. Het houdt de belofte in van oneindige mogelijkheden, maar ook van gevaren die op dit moment heel moeilijk in te schatten zijn. Het is dus nog niet te vroeg, maar ook nog niet helemaal te laat, om AI te reguleren – merk op dat de Europese wet de eerste ter wereld is waarmee iets dergelijks wordt geprobeerd.
Gezondheidsgegevens moeten anders worden behandeld dan minder persoonlijke gegevens
Zoals alle technieken die door de mens zijn uitgevonden, is kunstmatige intelligentie niet neutraal en kan het ten goede of ten kwade worden gebruikt. Daarom moeten we een wettelijk kader ontwikkelen dat misbruik voorkomt, zonder het onderzoek en vooral de marketing af te remmen. Al te restrictieve regels zouden Europese bedrijven alleen maar benadelen ten opzichte van hun Amerikaanse of Chinese concurrenten. Daarom moeten we duidelijke regels opstellen voor de toegang tot gegevens, zonder te streng te zijn.
Niet alle gegevens hoeven op dezelfde manier beschermd te worden. Gezondheidsgegevens moeten bijvoorbeeld anders worden behandeld dan minder persoonlijke gegevens. In twijfelgevallen kan een hoge mate van anonimisering het mogelijk maken om informatie te verzamelen zonder de privacy te schenden. De stem van de meerderheid van de Europarlementariërs tegen onder andere automatische gezichtsherkenningssystemen positioneert Europa duidelijk ten opzichte van repressieve staten zoals China, dat gezichtsherkenning al lange tijd gebruikt om zijn burgers in de gaten te houden.
Aan de andere kant zal het dwingen van bedrijven die AI-gebaseerde systemen ontwikkelen om een solide risicobeheer op te zetten kleine bedrijven schaden, terwijl de grote techconcerns geen moeite hebben om zich de diensten van legers advocaten en dataspecialisten te veroorloven. Een dergelijke maatregel kan contraproductief blijken en de hegemonie van de grote concerns versterken.
Een bijzonder gevaar is dat van systemen die op een (gedeeltelijk) geautomatiseerde manier valse informatie kunnen produceren en verspreiden. Deze systemen zouden de verdeeldheid die al bestaat binnen onze samenlevingen kunnen vergroten. Bovendien zouden ze in combinatie met sociale media, met hun neiging om informatiezeepbellen te creëren, een explosieve cocktail vormen.
De EU werkt uiteraard als vanouds: traag. Eerst moesten de Commissie, de lidstaten en het Parlement werken aan de tekst van de wet. Nu de wet is aangenomen, begint er een overgangsperiode die waarschijnlijk tot 2026 duurt, waarna de nieuwe regels definitief van kracht worden. Sommigen rekenen op de goede wil van de industrie om in de tussentijd inspanningen te leveren, maar helaas is dit slechts wishful thinking. Er staan gewoon te veel macht en te veel miljarden op het spel.
– Helmut Martin-Jung in Süddeutsche Zeitung
Nee: ‘De gevolgen van overregulering kunnen fataal zijn’
Kunstmatige intelligentie (AI) doet denken aan kaskrakers als Minority Report, Terminator, 2001: A Space Odyssey, WarGames en The Matrix. Met andere woorden ondraaglijke surveillance, uitroeiing door machines en de onderdrukking van de mens door machines.
Toen de revolutionaire ChatGPT afgelopen herfst verscheen, voerde een ware psychose de boventoon. Immers, kunstmatige intelligentie loopt in vele opzichten op ons voor, overtreft ons in intelligentie en kan binnenkort zelfs zelfbewustzijn verwerven.
Vandaar de poging om een schijnbaar nieuw en nu bloeiend gebied te temmen en het dringende wetgevende werk op het gebied van AI in de Europese Unie en de Verenigde Staten. Dit werk is des te dringender omdat landen als Frankrijk en Italië zijn begonnen met het invoeren van hun eigen wetgeving (Italië heeft zelfs ChatGPT een tijdje verboden op grond van privacybescherming). Op 14 juni heeft het Europees Parlement een AI-wet aangenomen, de eerste in zijn soort ter wereld.
De wet regelt de meest urgente problemen in verband met de dreiging van desinformatie op grote schaal en deepfaketechnologie – het creëren van nepbeelden die bijna niet van echt te onderscheiden zijn. We hebben hier een voorproefje van gezien met de foto’s en video’s van de arrestatie en het in de boeien slaan van Donald Trump, die tot rellen hadden kunnen leiden in de Verenigde Staten. AI-gegenereerde inhoud zal als zodanig gemarkeerd moeten worden. En dat is logisch.
Door buitensporige barrières en regelgeving in Europa en de VS zullen deze landen achterblijven in de technologische en economische race
Probleem is alleen dat de AI-wet nog maar het begin is. De ontwikkeling van kunstmatige intelligentie zal ongetwijfeld veel sneller gaan dan de actie van wetgevers, wat vragen oproept over de effectiviteit van regelgeving. Deze laatste zullen voortdurend moeten worden bijgewerkt of volledig gewijzigd, wat aanleiding zal geven tot tonnen nieuwe wetten. Ik vrees dat Europa moeite zal hebben om zijn verlangen om alles te reguleren onder controle te houden.
En toch kunnen de gevolgen van overregulering fataal zijn voor de economie, net nu kunstmatige intelligentie deze naar een heel nieuw niveau zou moeten tillen, door het management te verbeteren, de kosten te verlagen en innovatie met sprongen vooruit te stuwen. Door buitensporige barrières en regelgeving in Europa en de Verenigde Staten zullen deze landen achterblijven in de technologische en economische race. De grote winnaar zal China zijn, dat hier geen probleem mee heeft en klaarstaat om de leiding te nemen in deze race.
Twee machtige groepen zullen ook botsen in de AI-strijd. Aan de ene kant de tegenstanders, die de plaats zullen innemen van de huidige antivaxers (of misschien hun krachten zullen bundelen?) en van AI de incarnatie van de duivel zullen maken. Aan de andere kant de technologiemultinationals en de meerderheid van de burgers, die de voordelen zullen zien van een intelligente assistent die bijna alles kan wat een mens kan, inclusief werken.
Bijvoorbeeld het zogenaamde surveillance-amendement, dat voorzag in de mogelijkheid om realtime biometrische identificatie, zoals gezichtsherkenningstechnologie via AI, in te voeren, laat zien hoe ver de meningen kunnen uiteenlopen om uiteindelijk in geschillen te belanden. Voorlopig is het voorstel geschrapt onder druk van politici, die hebben gewezen op de bedreiging die het vormt voor de vrijheden van burgers, met name hun privacy. Tegelijkertijd zouden dergelijke instrumenten zeer effectief zijn bij het vervolgen van criminelen of het vinden van vermiste kinderen. Vrijheid of veiligheid? Dit is slechts een van de vele dilemma’s die ons te wachten staan als het om AI gaat.
– Pawel Rozynski in Rzeczpospolita
Lees ook:
















