AI-industrie staat onder druk om nepnieuws aan te pakken

Technologiebedrijf OpenAI heeft bekendgemaakt dat het geheime beïnvloedingscampagnes vanuit Rusland, China, Israël en Iran heeft verstoord, meldt Forbes. De maker van ChatGPT en andere software met kunstmatige intelligentie zei dat het vijf campagnes had geïdentificeerd met ‘misleidende pogingen om de publieke opinie te manipuleren of politieke uitkomsten te beïnvloeden zonder de ware identiteit of bedoelingen van de actoren erachter te onthullen’.

Aanbiedingen 360 artikel — 360 aanbieding: 3 maanden digitaal voor maar 15 euro.

De campagnes gebruikten de software van OpenAI om tekst en afbeeldingen te genereren die werden geplaatst op sociale mediaplatforms zoals Telegram, X en Instagram, , aldus OpenAI in een statement op de website van het bedrijf. OpenAI zei dat het accounts heeft beëindigd die geassocieerd waren met twee Russische operaties genaamd Bad Grammer en Doppelganger; een Chinese campagne bekend als Spamouflage; een Iraans netwerk genaamd International Union of Virtual Media; en een Israëlische operatie met de naam Zero Zeno.

Beïinvloedingsoperaties op sociale mediaplatforms hebben de aandacht getrokken van de techwereld sinds 2016, toen werd vastgesteld dat door Rusland gesponsorde entiteiten probeerden tweedracht te zaaien in de aanloop naar de presidentsverkiezingen ten gunste van toenmalig kandidaat Donald Trump. Vooral de mogelijkheid dat AI-nepnieuws verkiezingen kunnen verstoren, voedt de angst nu miljarden mensen over de hele wereld dit jaar naar de stembus gaan, waaronder in de VS, India en de Europese Unie. Daarom staat de AI-industrie onder toenemende druk om verantwoording af te leggen voor de content die haar producten maken. Experts roepen de industrie op om te voorkomen dat gebruikers misleidend en kwaadaardig materiaal genereren – en om manieren aan te bieden om de oorsprong en distributie ervan te traceren, aldus The New York Times.

Dit artikel van Joep Harmsen verscheen eerder in Forbes.