De Blake Lemoine incident wordt vandaag de dag herinnerd als een hoogtepunt van de AI-hype. Het duwde het hele idee van bewuste AI een paar nieuwscycli lang in het publieke bewustzijn gebracht, maar het bracht ook een gesprek op gang, onder zowel computerwetenschappers als bewustzijnsonderzoekers, dat in de jaren daarna alleen maar is geïntensiveerd. Terwijl de technologiegemeenschap het hele idee publiekelijk blijft kleineren (en arm Citroen), privé is het begonnen deze mogelijkheid te grijpen veel serieuzer. Een bewuste AI heeft mogelijk geen duidelijke commerciële grondgedachte (hoe verdien je er geld mee?) en creëert lastige morele dilemma’s (hoe moeten we omgaan met een machine die kan lijden?). Toch zijn sommige AI-ingenieurs gaan denken dat de heilige graal van de kunstmatige algemene intelligentie – een machine die niet alleen superslim is maar ook begiftigd is met een menselijk niveau van begrip, creativiteit en gezond verstand – zoiets als bewustzijn zou kunnen vereisen om te bereiken. In de technologiegemeenschap begon wat een informeel taboe was rond bewuste AI – een vooruitzicht dat het publiek griezelig zou vinden – plotseling af te brokkelen.
Het keerpunt kwam in de zomer van 2023, toen een groep van 19 vooraanstaande computerwetenschappers en filosofen een rapport van 88 pagina’s publiceerden met de titel ‘Bewustzijn in kunstmatige intelligentie“, informeel bekend als het Butlin-rapport. Binnen enkele dagen leek iedereen in de AI- en bewustzijnswetenschappelijke gemeenschap het te hebben gelezen. De samenvatting van het conceptrapport bevatte de volgende pakkende zin: “Onze analyse suggereert dat geen enkele huidige AI-systemen bewust zijn, maar suggereert ook dat er geen duidelijke barrières zijn voor het bouwen van bewuste AI-systemen.”
De auteurs erkenden dat een deel van de inspiratie achter het bijeenroepen van de groep en het schrijven van het rapport ‘het geval van Blake Lemoine’ was. “Als AI’s de indruk van bewustzijn kunnen wekken”, a co-auteur vertelde Science magazine“Dat maakt het een urgente prioriteit voor wetenschappers en filosofen om hun mening te geven.”
Maar wat ieders aandacht trok was die ene verklaring in de samenvatting van de preprint: “geen duidelijke barrières voor het bouwen van bewuste AI-systemen.” Toen ik die woorden voor het eerst las, had ik het gevoel dat er een belangrijke drempel was overschreden, en dat was niet alleen een technologische drempel. Nee, dit had te maken met onze identiteit als soort.
Wat zou het voor de mensheid betekenen om op een dag in de niet zo verre toekomst te ontdekken dat er een volledig bewuste machine op de wereld was gekomen? Ik vermoed dat het een Copernicaans moment zou zijn, dat ons gevoel van centraliteit en speciaalheid abrupt zou verdrijven. Wij mensen hebben ons een paar duizend jaar lang gedefinieerd als tegenstander van de ‘mindere’ dieren. Dit heeft ertoe geleid dat dieren zogenaamd unieke menselijke eigenschappen als gevoelens (een van Descartes’ meest flagrante fouten), taal, rede en bewustzijn werden ontzegd. In de afgelopen paar jaar zijn de meeste van deze verschillen uiteengevallen, omdat wetenschappers hebben aangetoond dat veel soorten intelligent en bewust zijn, gevoelens hebben en taal en hulpmiddelen gebruiken, en daarmee eeuwen van menselijk exceptionisme uitdagen. Deze verschuiving, die nog steeds gaande is, heeft netelige vragen doen rijzen over onze identiteit, maar ook over onze morele verplichtingen jegens andere soorten.
Met AI komt de bedreiging voor ons verheven zelfconcept geheel uit een andere hoek. Nu zullen wij mensen onszelf moeten definiëren in relatie tot AI’s in plaats van andere dieren. Terwijl computeralgoritmen ons in pure denkkracht overtreffen – ons handig verslaan met spellen als schaken en Go en verschillende vormen van ‘hoger’ denken zoals wiskunde – kunnen we op zijn minst troost putten uit het feit dat wij (en veel andere diersoorten) nog steeds de zegeningen en lasten van het bewustzijn voor onszelf hebben, het vermogen om subjectieve ervaringen te voelen en te hebben. In die zin kan AI dienen als een gemeenschappelijke tegenstander, die mensen en andere dieren dichter bij elkaar brengt: wij tegen, de levenden versus de machines. Deze nieuwe solidariteit zou een hartverwarmend verhaal opleveren en zou goed nieuws kunnen zijn voor de dieren die zijn uitgenodigd om zich bij Team Conscious aan te sluiten. Maar wat gebeurt er als AI het menselijke – of dierlijke, zou ik moeten zeggen – monopolie op bewustzijn begint uit te dagen? Wie zullen wij dan zijn?
