Onderzoekers die voorop lopen kunstmatige intelligentie (AI) en leiders van veel van de grote platforms – van Jeffrey Hinton naar Joshua BengioDemis Hassabis, Sam Altman, Dario AmodeiEn Elon Musk– hebben hun bezorgdheid geuit dat AI zou kunnen leiden tot de vernietiging van de mensheid zelf.
Zelfs de opgegeven kansen van sommige van deze AI-experts, met een einddagenscenario van wel 25%, zijn nog steeds ‘buitengewoon optimistisch’, aldus Nate Soares, president van het Machine Intelligence Research Institute (MIRI) en co-auteur van het recente best verkochte boek. Als iemand het bouwt, sterft iedereen.
Dat komt omdat, zoals hij in het boek betoogt, het spoor dat we met AI volgen op een ramp afstevent – tenzij er iets radicaal verandert. Het boek, geschreven in samenwerking met onderzoeker Eliezer Yudkowsky, onderzoekt potentiële bedreigingen die uitgaan van “superintelligentie”, of theoretische AI-systemen die slimmer zijn dan mensen.
“We zijn bezig met het kweken van deze AI’s die handelen op manieren waar niemand om heeft gevraagd, die deze drijfveren en opkomende gedragingen hebben die niemand bedoelde”, zei Soares vorige maand tijdens de Topconferentie over wereldveranderende ideeënmedegeorganiseerd door Snel bedrijf en de Johns Hopkins Universiteit in Washington, DC
“Als we bovenmenselijk intelligente AI’s krijgen die doelen nastreven die niemand wilde, denk ik dat de standaarduitkomst is dat letterlijk iedereen op aarde sterft”, voegde hij eraan toe.
Een afrekening voor de wereld
Soares vergeleek het werk van sommige AI-leiders met het bouwen van een vliegtuig terwijl het zonder landingsgestel vliegt en zei dat er niet genoeg aandacht wordt besteed aan de potentieel negatieve gevolgen van de technologie.
De hoeveelheid mondiale investeringen die in AI wordt gestoken, laat zien dat mensen erop gokken dat het geen “totale blindganger” zal zijn, zei hij, maar er zijn nog twee andere “gekke” opties: AI automatiseert radicaal alle menselijke arbeid, zodat de economie in handen komt van een heel kleine groep, of het wordt superintelligent en doodt iedereen.
“De wereld begrijpt nog niet echt hoe gek dit AI-gedoe is,” zei Soares.
Maar er is enige reden voor optimisme, zegt Soares, omdat veel mensen zich zorgen maken over de toekomst van AI, wat voor een “broze” situatie zorgt als meer mensen – inclusief wij allemaal – hun zorgen uiten.
“Misschien als genoeg mensen zeggen: ‘Wacht, wat zijn we nu aan het doen? Wat maakt het uit?'” zei Soares. “Misschien zal dat de hele wereld doen schudden om te zeggen: ‘Holy crap, laten we van koers veranderen.’”
