Onderzoeker bij Anthropic: kans dat AI ‘alle mensen zou kunnen doden’ hoger dan 10 procent

Lees ook het andere kort nieuws uit de buitenlandse pers van vandaag:

» Noorwegen: vliegtuig van Zelensky bijna geraakt door een drone

» Verkiezingswinst AfD baart ook Duitse kerken grote zorgen

Superintelligente AI baart onderzoekers grote zorgen

Een vooraanstaand veiligheidsonderzoeker bij Anthropic heeft gewaarschuwd dat AI zich zo snel ontwikkelt, dat hij de kans op meer dan 10 procent schat dat de technologie binnen tien jaar ‘alle mensen zou kunnen doden’, aldus de BBC.

Evan Hubinger stelde in een bericht op X dat het risico van de huidige modellen ‘laag’ is, maar dat hij zich ‘zorgen maakt’ dat de technologie zich binnenkort zodanig kan ontwikkelen en verbeteren dat ze een existentieel risico voor de mensheid vormt.

Hij legde niet in detail uit hoe AI-systemen in de toekomst volgens hem tot de uitroeiing van de mensheid zouden kunnen leiden. Zijn uitspraken passen echter in een reeks steeds urgentere waarschuwingen over AI, waarbij het debat verschuift van de vraag of er daadwerkelijk een risico bestaat naar de vraag hoe groot dat risico is.

Hubingers reactie volgde op een bericht op X van Jacob Coxon, een AI-onderzoeker die onlangs bij Anthropic is vertrokken en daarvoor bij OpenAI werkte. ‘Geen van beide bedrijven handelt verantwoord,’ schreef hij. ‘Dit zullen binnenkort systemen zijn met bovenmenselijke vermogens die alles kunnen hacken, elk vakgebied van de ene op de andere dag kunnen revolutioneren en echte macht en middelen kunnen verwerven.’

Dit vertrek bracht Darren Jones – voormalig Chief Secretary to the Treasury en stafchef van Sir Keir Starmer – ertoe een open brief te schrijven aan Andy Burnham, waarin hij pleit voor een nieuw internationaal verdrag voor de veilige ontwikkeling van AI. Hij vertelde BBC dat overheden moeten ‘samenwerken’ om te bepalen hoe een verdrag over de ontwikkeling van superintelligentie eruit zou moeten zien.

‘Als overheden deze waarschuwingen niet serieus genoeg nemen en niet in actie komen, kan het ontwikkelingstempo ertoe leiden dat we met problemen worden geconfronteerd nog voordat we überhaupt hebben onderzocht of dit voor ons een probleem vormt,’ aldus Jones.