Dit is wat ik tegen iemand zou zeggen als ze me zouden vragen wat ik heb geleerd van ‘The AI Doc: Or How I Became an Apocaloptimist’, dat in première ging op Sundance en vrijdag in de bioscoop te zien was:
Er werken nu 20.000 mensen aan kunstmatige algemene intelligentieen minder dan 200 werken aan uitlijning en veiligheid.
Die cijfers veroorzaken angst. Cijfers vertellen echter zelden het hele verhaal.
In de 104 minuten durende documentaire vertelt regisseur Daniel Roher de 2023 Academieprijs winnaar voor Beste Documentaire voor ‘Navalny’, en Charlie Tyrell, proberen de snelle opkomst van AI te begrijpen.
Het bevat een aantal CEO’s die de AI-boom aandrijven, waaronder die van OpenAI Sam AltmanDario Amodei van Anthropic, Demis Hassabis van DeepMind, spraakmakende onderzoekers als Jan Leike en Ilya Sutskever, en verschillende experts op het gebied van AI-ethiek en risico. Elon Musk, zeggen de filmmakers, had het te druk.
Het uitgangspunt is persoonlijk. Roher bereidt zich voor op de geboorte van zijn eerste kind en wil, net als veel ouders, begrijpen in wat voor wereld hij een nieuw leven brengt.
Het resultaat is verhelderend maar verontrustend. Er is een stortvloed aan concurrerende motivaties die deze nieuwste golf van technologie aandrijven, en het is onduidelijk welke de overhand zal krijgen. Hier zijn een paar dingen die ik uit de documentaire heb geleerd.
Intelligentie is riskant
De hoofdpersonen van de film maken duidelijk dat de ambities van de industrie enorm zijn en dat we nog maar aan het begin staan van een seismische verschuiving.
“Dit is slechts een opwarmertje. De echt krachtige systemen komen er nog, en ze zullen vrij snel komen”, zegt Shane Legg, de hoofdwetenschapper van AGI en medeoprichter van Google Deepmindvertellen de filmmakers.
Maar de film blijft niet hangen bij ambitie zonder meteen de gevolgen ervan onder ogen te zien. Terwijl onderzoekers beschrijven dat systemen steeds krachtiger worden, gaat het gesprek over wat er gebeurt als die systemen niet in lijn zijn met menselijke belangen.
Connor Leahy, een AI-onderzoeker en oprichter van Conjecture, een Britse startup voor AI-uitlijning, zei dat er een dag kan komen waarop AI op mensen reageert zoals mensen op mieren reageren. “We hebben geen hekel aan mieren, maar als we een snelweg willen aanleggen en daar staat een mierenhoop, dan is dat rot voor de mieren”, zei hij.
De veiligste weg voorwaarts voor de mens zou een toekomst kunnen zijn waarin mens en machine met elkaar verweven zijn.
“We gaan fuseren met AI. We gaan fuseren met technologie”, Peter Diamandiseen langleveninvesteerder en oprichter van de XPRIZE Foundation, vertelt de filmmakers. “Tegen het begin tot midden 2030 verwachten we dat we onze hersenen kunnen verbinden met de cloud, waar ik de toegang tot het geheugen kan uitbreiden.”
Bij de AI-race draait alles om winst
De AI-race wordt gedreven door winst, en verschillende proefpersonen in de film zeiden dat prioriteit geven aan veiligheid – althans op dit moment – alleen maar ten koste gaat van het bedrijfsresultaat.
“Als twee mensen zich op precies dezelfde plek bevinden, moet degene die bereid is om de veiligheid te beperken daar als eerste komen”, zegt Altman, gekleed in een bruine trui en zittend tegen een houtskoolzwart scherm, tegen de filmmakers. “Maar we kunnen onze voorsprong gebruiken om veel meer tijd te besteden aan veiligheidstests.”
Dat is een grimmig beeld van de afwegingen die de kern van de sector vormen: snelheid versus voorzichtigheid, concurrentie versus samenwerking. In een race om de krachtigste machines te bouwen, belonen de prikkels degenen die het snelst bewegen, niet degenen die het voorzichtigst bewegen.
Journalist Karen Hao, auteur van ‘Empire of AI’, versterkte dat idee en vertelde de filmmakers dat ‘prikkels voor winstmaximalisatie’ de belangrijkste kracht achter de AI-race zijn.
Dat is allemaal een beetje zorgwekkend.
Je zou nog steeds kinderen moeten krijgen
Ondanks de angst rond de komst van superintelligente machines sloeg Altman echter toe een optimistische noot over de toekomst van het leven zelf.
“Het hebben van een kind is gewoon iets gedenkwaardigs: ik blijf elke nacht wakker om deze boeken te lezen over hoe je een kind moet opvoeden”, zei hij. “Ik hoop dat ik het goed ga doen, en het voelt heel overweldigend, maar ik ben niet bang dat kinderen opgroeien in een wereld met AI.”
De film wordt afgesloten met een meta-montage van Roher en zijn vrouw die debatteren over hoe ze de film moeten beëindigen, hun pasgeboren baby verwelkomen en emotionele gesprekken voeren met hun ouders – wat allemaal een beetje gehaast en scripted aanvoelt, bijna alsof AI de laatste scènes schreef.
Aan het eind draaide ik me om naar de oudere vrouw die naast me zat, die diep in slaap lag en zachtjes snurkte. Het was alsof we naar een raar verhaaltje voor het slapengaan keken: de risico’s zijn reëel, zelfs als er een nieuwe en betere wereld opdoemt.
