Filosoof Nick Bostrom onlangs een papiertje geplaatstwaar hij postuleerde dat een kleine kans dat AI alle mensen zou vernietigen het risico waard zou kunnen zijn, omdat geavanceerde AI de mensheid zou kunnen verlossen van “haar universele doodvonnis.” Die vrolijke gok is een hele sprong ten opzichte van zijn eerdere duistere overpeinzingen over AI, waardoor hij een doomer-peetvader werd. Zijn boek uit 2014 Superintelligentie was een vroeg onderzoek naar het existentiële risico van AI. Eén gedenkwaardig gedachte-experiment: een AI die paperclips moet maken, zal uiteindelijk de mensheid vernietigen, omdat al die mensen die hulpbronnen nodig hebben een belemmering vormen voor de productie van paperclips. Zijn recentere boek, Diepe utopieweerspiegelt een verschuiving van zijn focus. Bostrom, hoofd van het Future of Humanity Institute in Oxford, staat stil bij de ‘opgeloste wereld’ die ontstaat als we AI goed krijgen.
STEVEN LEVY: Diepe utopie is optimistischer dan uw vorige boek. Wat is er voor jou veranderd?
NICK BOSTROM: Ik noem mezelf een zeurderige optimist. Ik ben erg enthousiast over het potentieel om het menselijk leven radicaal te verbeteren en mogelijkheden voor onze beschaving te ontsluiten. Dat komt overeen met de reële mogelijkheid dat er iets misgaat.
U schreef een artikel met een treffend argument: aangezien we toch allemaal doodgaan, is het ergste dat met AI kan gebeuren, dat we eerder sterven. Maar als AI werkt, kan het ons leven verlengen, misschien wel voor onbepaalde tijd.
In dat artikel wordt slechts op één aspect hiervan expliciet ingegaan. In welk academisch artikel dan ook kun je niet ingaan op het leven, het universum en de betekenis van alles. Laten we dus eens naar dit kleine probleem kijken en proberen dat op te lossen.
Dat is geen klein probleem.
Ik denk dat ik geïrriteerd ben door enkele argumenten van doomers die zeggen dat als je AI bouwt, je mij en mijn kinderen gaat vermoorden, en hoe durf je. Zoals het recente boek Als iemand het bouwt, sterft iedereen. Nog waarschijnlijker is dat als niemand bouwt het, iedereen sterft! Dat is de afgelopen 100.000 jaar de ervaring geweest.
Maar in het doemscenario sterft iedereen en worden er geen mensen meer geboren. Groot verschil.
Ik heb mij daar uiteraard erg zorgen over gemaakt. Maar in dit artikel kijk ik naar een andere vraag: wat zou het beste zijn voor de huidige menselijke bevolking zoals jij en ik en onze families en de mensen in Bangladesh? Het lijkt erop dat onze levensverwachting zou stijgen als we AI ontwikkelen, ook al is dat behoorlijk riskant.
In Diepe utopie je speculeert dat AI een ongelooflijke overvloed zou kunnen creëren, zozeer zelfs dat de mensheid een enorm probleem zou kunnen hebben met het vinden van een doel. Ik woon in de Verenigde Staten. We zijn een heel rijk land, maar onze regering heeft, ogenschijnlijk met steun van het volk, een beleid dat diensten aan de armen ontzegt en beloningen uitdeelt aan de rijken. Ik denk dat zelfs als AI in staat zou zijn om iedereen overvloed te bieden, we die niet aan iedereen zouden kunnen bieden.
Misschien heb je gelijk. Diepe utopie neemt als uitgangspunt dat alles buitengewoon goed gaat. Als we redelijk goed werk leveren op het gebied van bestuur, krijgt iedereen een aandeel. Er bestaat een behoorlijk diepgaande filosofische vraag over hoe een goed menselijk leven er onder deze ideale omstandigheden uit zou zien.
De zin van het leven is iets waar je veel over hoort in Woody Allen-films en misschien ook in de filosofengemeenschap. Ik maak me meer zorgen over de middelen om in mijn levensonderhoud te voorzien en een aandeel te krijgen in deze overvloed.
Het boek gaat niet alleen over betekenis. Dat is één van de vele verschillende waarden die het in overweging neemt. Dit zou een prachtige emancipatie kunnen zijn van de sleur waaraan mensen zijn blootgesteld. Als je als volwassene bijvoorbeeld de helft van je wakkere uren moet opgeven om de eindjes aan elkaar te knopen, terwijl je werk doet dat je niet leuk vindt en waar je niet in gelooft, dan is dat een trieste toestand. De maatschappij is er zo aan gewend dat we er allerlei rationalisaties omheen hebben bedacht. Het lijkt op een gedeeltelijke vorm van slavernij.
