Alleen wat leeft kan bewust zijn

Anil Seth is uitgeroepen tot winnaar van de Berggruen-essayprijs 2025 in de Engelstalige taal. Seth, bekend als een vooraanstaand voorstander van de materialistische theorie van het bewustzijn, is een Britse neurowetenschapper en hoogleraar cognitieve en computationele neurowetenschappen aan de Universiteit van Sussex.

Zijn essaygepubliceerd in Noema, ‘The Mythology Of Conscious AI’, is een rigoureuze en overtuigende uitdaging voor het idee dat complexe berekeningen aanleiding kunnen geven tot bewustzijn, dat volgens Seth onlosmakelijk verbonden is met biologisch leven.

Hij biedt een contrasterend perspectief op een eerdere Noema essay door Google Blaise Agüera en Arcas En James Manadedie beweren dat ‘het leven inherent computationeel is’. Hoewel ze niet beweren dat AI bewustzijn kan bereiken, poneren ze een pad in die richting, omdat ze zien dat organische en anorganische intelligentie dezelfde regels volgen voor zelforganiserende ontwikkeling om zich voort te planten, te groeien en te genezen.

In veel opzichten is het betoog van Seth een baanbrekende verfijning en actualisering van de pleidooi van Nobelprijswinnaar Gerald Edelman voor het tijdperk van AI.

Zoals Edelman het in 2004 in een gesprek verwoordde, lang vóór het idee dat kunstmatige neurale netwerken en grote taalmodellen ooit bewustzijn zouden kunnen voortbrengen:

“De hersenen zijn belichaamd en het lichaam is ingebed in zijn omgeving. Dat trio moet op een geïntegreerde manier opereren. Je kunt de activiteit en ontwikkeling van de hersenen niet scheiden van de omgeving of het lichaam. Er is een constante wisselwerking tussen wat wordt herinnerd en voorgesteld (een beeld) en wat er feitelijk in de zintuigen gebeurt.

“Het brein kan tegen zichzelf spreken en het bewuste brein kan zijn onderscheidingsvermogen gebruiken om de toekomst te plannen, het verleden te vertellen en een sociaal zelf te ontwikkelen.

“Het belangrijkste om te begrijpen is dat de hersenen ‘contextgebonden’ zijn. Het is geen logisch systeem zoals een computer dat alleen geprogrammeerde informatie verwerkt; het produceert geen vooraf bepaalde resultaten zoals een klok.”

Voor Edelman ontstaat bewustzijn door een ‘selectief repertoire’ dat wordt gevormd door veelvuldige recursieve interacties van het biologische apparaat van het lichaam met de omgeving. “Er bestaat geen enkelvoudige mapping om de geest te creëren; er is veeleer een onvoorspelbare pluraliteit aan mogelijkheden”, zei hij ooit. vertelde het mij.

Wat voor logische berekeningen ruis is, is wat verantwoordelijk is voor de variatie bij mensen en het vermogen om te innoveren, gedichten te schrijven, muziek te componeren, meesterwerken te schilderen en stemmingen te voelen.

Seth ziet de neiging om intelligentie en bewustzijn samen te bundelen als resultaat van drie ‘ingebakken psychologische vooroordelen’.

“De eerste is antropocentrisme. Dit is de neiging om dingen te zien door de lens van het mens-zijn: om het menselijke voorbeeld als een definitie te beschouwen, in plaats van als één voorbeeld van hoe verschillende eigenschappen samen kunnen komen.

De tweede is menselijk exceptionisme: onze ongelukkige gewoonte om de menselijke soort bovenaan elke stapel te plaatsen, en soms op een geheel andere stapel (misschien dichter bij engelen en goden dan bij andere dieren, zoals in de middeleeuwse De schaal van de natuur). En de derde is antropomorfisme. Dit is de neiging om menselijke eigenschappen op niet-menselijke dingen te projecteren, gebaseerd op wat misschien slechts oppervlakkige overeenkomsten zijn.”

Als we eenmaal voorbij de verleiding van deze foutieve metaforen zijn gekomen, is het mogelijk duidelijker af te bakenen waar de door algoritmen aangestuurde intelligentieverwerking via een anorganisch substraat fundamenteel verschilt van de biologische symbiose die zich in de loop van millennia heeft ontwikkeld tot ontzagwekkende efficiëntie.

Onvergelijkbare wetware

“In een brein”, schrijft Seth, “is er geen scherpe scheiding tussen ‘mindware’ en ‘wetware’ zoals tussen software en hardware in een computer. Hoe meer je je verdiept in de fijne kneepjes van het biologische brein, hoe meer je beseft hoe rijk en dynamisch het is, vergeleken met het dode zand van silicium.

Hersenactiviteitspatronen evolueren over meerdere schalen van ruimte en tijd, variërend van grootschalige corticale gebieden tot de fijnkorrelige details van neurotransmitters en neurale circuits, allemaal diep verweven met een moleculaire storm van metabolische activiteit. Zelfs een enkel neuron is een spectaculair gecompliceerde biologische machine, bezig zijn eigen integriteit te behouden en de omstandigheden en de materiële basis voor zijn eigen voortbestaan ​​te herstellen. (Dit proces wordt genoemd autopoieseuit het Grieks voor ‘zelfproductie.’ Autopoiese is misschien wel een bepalend en onderscheidend kenmerk van levende systemen.)

In tegenstelling tot computers, zelfs computers die neurale netwerkalgoritmen draaien, zijn hersenen het soort dingen waarvoor het moeilijk en waarschijnlijk onmogelijk is om ze van elkaar te scheiden. wat ze doen van wat ze zijn.

Er is ook geen enkele goede reden om een ​​dergelijke zuivere scheiding te verwachten. De scherpe scheiding tussen software en hardware in moderne computers wordt opgelegd door menselijk ontwerp. Biologische evolutie opereert onder verschillende beperkingen en met verschillende doelen. Vanuit het perspectief van de evolutie bestaat er geen duidelijke selectiedruk voor het soort volledige scheiding dat de perfecte interoperabiliteit tussen verschillende hersenen mogelijk zou maken, zoals we die tussen verschillende computers wel hebben. In feite is waarschijnlijk het tegenovergestelde waar: het in stand houden van een scherpe software/hardware-verdeling is energetisch duur, zoals tegenwoordig maar al te duidelijk blijkt uit de enorme energiebudgetten van moderne serverparken.”

Biologische tijd versus tijd Computationele tijd

Seth biedt ook een fascinerend inzicht in het verschil tussen contextgebonden biologische tijd en rekentijd.

Bij computationele verwerking, schrijft hij, “is alleen de volgorde van belang: van A naar B, van 0 naar 1. Er kan een microseconde of een miljoen jaar zitten tussen elke toestandsovergang, en het zou nog steeds hetzelfde algoritme zijn, dezelfde berekening.

Voor hersenen en voor biologische systemen in het algemeen is tijd daarentegen fysiek, continu en onontkoombaar. Levende systemen moeten zich voortdurend verzetten tegen het verval en de wanorde die zich voordoen op het traject naar entropische gelijkheid, opgelegd door de onschendbare tweede wet van de thermodynamica. Dit betekent dat neurobiologische activiteit verankerd is in de continue tijd op manieren die algoritmen door hun ontwerp niet zijn.

Bovendien, vooral veel onderzoekers die in de fenomenologische traditie – hebben lang benadrukt dat bewuste ervaring zelf rijkelijk dynamisch en inherent temporeel is. Het stottert niet van de ene toestand naar de andere; het stroomt. Het abstraheren van de hersenen in de dorre sequentieruimte van algoritmen doet noch recht aan onze biologie, noch aan de fenomenologie van de bewustzijnsstroom.”

Kortom, dit alles wijst op het inzicht dat bewustzijn geworteld is in de noodzaak van levende organismen om de perceptie aan te scherpen van waar en hoe zij zich in de wereld bevinden, en vervolgens gedrag te selecteren dat hun biologische overleving bevordert. Zoals de neurowetenschapper Antonio Damasio op soortgelijke wijze heeft opgemerkt, zijn de positieve en negatieve feedbacksignalen van succes of falen in dit streven om te overleven en te bloeien – ‘gevoelens’ – de oorsprong van emoties die, bij wezens van hogere orde, evolueren naar cultuur.

Zoals Seth de conclusies van zijn onderzoek samenvat:

“Ten eerste hebben we de glimp van een verklarend verband tussen leven en bewustzijn. Bewuste ervaringen van emotie, stemming en zelfs de basale gevoel van leven ze komen allemaal netjes overeen met perceptuele voorspellingen die betrokken zijn bij de controle en regulering van de lichamelijke conditie.

Ten tweede zijn de processen die ten grondslag liggen aan deze perceptuele voorspellingen diep, en misschien wel onlosmakelijk, geworteld in onze aard als biologische systemen, als zelfherstellende stormen van het leven die weerstand bieden aan de aantrekkingskracht van entropische gelijkheid.

En ten derde is dit alles niet-computationeel, of op zijn minst niet-algoritmisch. Het minimaliseren van voorspellingsfouten in echte hersenen en echte lichamen is een continu dynamisch proces dat waarschijnlijk onlosmakelijk verbonden is met de materiële basis ervan, en niet zozeer een in vlees geïmplementeerd algoritme dat bestaat in een ongerept universum van symbolen en volgorde.”

De levensadem

Uiteindelijk ziet Seth iets essentieels aan het werk: “We ervaren de wereld om ons heen en onszelf daarin – met, door en vanwege onze levende lichamen. Misschien is het het leven, en niet de informatieverwerking, dat de ervaringsvergelijkingen in vuur en vlam zet.

Als we de rijkdom van biologische hersenen en menselijke ervaringen samenvoegen met de informatieverwerkende machinaties van door deepfake ondersteunde chatbots, of wat de nieuwste AI-tovenarij ook mag zijn, doen we onze geest, hersenen en lichamen ernstig onrecht. Als we onszelf te goedkoop verkopen aan onze machinecreaties, overschatten we ze, en onderschatten we onszelf.”

Misschien wat ons maakt ons, Seth mijmert, “grijpt terug naar het oude Griekenland en naar de vlakten van India, waar onze diepste essentie naar voren komt als een primitief gevoel van rechtvaardige levend zijn – meer adem dan gedacht en meer vlees dan machine.”

Noot van de redactie over de Berggruen Essayprijs 2025 voor de Chinese taal:

De Chineestalige Berggruen Essayprijs 2025 was toegekend aan Xin Huang voor ‘Taal, bewustzijn en computergebruik: een filosofische analyse van het tokenconcept in het tijdperk van intelligentie’, en aan Xiaoben Liu voor ‘Het eerste paradigma van het uploaden van bewustzijn: mechanismen van bewustzijnsevolutie in het AI-axiale tijdperk en een vooruitzicht op Web4.’

Huang onderzoekt hoe ervaring en intentie worden vertaald in berekenbare ‘tokens’, waarbij hij het bewustzijnsprobleem in het tijdperk van intelligente systemen opnieuw formuleert en nieuwe wegen voor mens-machine-interactie voorstelt. Liu brengt een raamwerk voor bewustzijnsevolutie naar voren, met het argument dat taal de basiseenheid van bewustzijn is, en schetst een routekaart naar het uploaden van bewustzijn, digitale onsterfelijkheid en een toekomstig ‘internet van bewustzijn’.

Deze essays zijn gepubliceerd in Cuiling, Noema’s tegenhanger in China.