Toen Quentin Farmer zijn start-up Portola van de grond kreeg, was een van de eerste mensen die hij aannam een sciencefictionromanschrijver.
De mede-oprichters begonnen met de bouw van de AI gezelschap eind 2023 met slechts een kiem van een idee: hun metgezellen zouden beslist niet-menselijk zijn. Buitenaardse wezens, in feite uit de ruimte. Maar toen ze een groot taalmodel vroegen om een achtergrondverhaal te genereren, kregen ze alleen maar slop. Het model kon simpelweg geen goed verhaal vertellen.
Maar Eliot Peper kan een goed verhaal vertellen. Hij is een schrijver van speculatieve fictie die twaalf romans heeft gepubliceerd over halfgeleiders, kwantumcomputers, hackers en huurmoordenaars. Gelukkig voor het Portola-team houdt hij ervan om rare technische problemen op te lossen. Dus huurden ze hem in.
Peper was van nature technisch ingesteld en had met AI geëxperimenteerd om proza te schrijven, maar vond het uiteindelijk onbruikbaar. Als AI slechts een vervanging zou zijn voor menselijke arbeid, dan was hij niet geïnteresseerd. “Ik wilde mensen dingen zien maken die op zichzelf al buitengewoon zijn, niet als iets nieuws, maar iets geweldigs waar mensen van kunnen genieten en mee kunnen communiceren”, zegt hij. Toen hij zag dat Portola metgezellen wilde opbouwen die zich ontwikkelen als personages in een roman, dacht hij: ‘Dit zou wel eens een van die dingen kunnen zijn.’
Metgezellen, geen gereedschap
In de De levenscyclus van softwareobjectenvertelt sciencefictionauteur Ted Chiang het verhaal van een startup die belichaamde AI-metgezellen ontwerpt, genaamd digients, wier persoonlijkheden ergens tussen vertederende dieren en speelse kinderen liggen. De ingenieurs en onderzoekers die de digi’s ontwikkelen, leren hen spreken, socialiseren en met anderen omgaan. Er ontstaat een wederzijdse gehechtheid. ‘Ervaring is de beste leermeester,’ schrijft Chiang, ‘dus in plaats van te proberen AI te programmeren met wat je wilt dat het weet, verkoop je apparaten die kunnen leren en laat je klanten het ze leren.’
Ondanks dat hij oprichter en vader is, vindt Farmer wel tijd om te lezen, vooral sciencefiction, en Chiang is een van zijn favorieten. Sci-fi-deals in wat-als-scenario’s. Ray Bradbury vraagt binnen Fahrenheit 451, Wat als boeken verboden zouden worden? En binnen Frankenstein’, vraagt Mary Shelley zich af, wat als mensen leven zouden kunnen creëren? In Levenscyclusvraagt Chiang zich af, wat als AI een metgezel zou kunnen zijn, en niet alleen maar een hulpmiddel?
Om sciencefiction te laten werken, moet de wat-als-vraag zich afspelen in een rijkelijk ingebeelde wereld. Dat is wat Peper voor Portola heeft gecreëerd. De planeet is een ‘heldere, natte planeet met veel te veel bergen en fruit dat naar vuurwerk smaakt’, zoals de overlevering zegt. “Steden omhelzen de kusten in deze gelaagde terrassen, allemaal betegeld en bemost, en het binnenland bestaat voornamelijk uit hoge bergketens die aan elkaar zijn genaaid door ijsrivieren.” De bewoners van de planeet, de Tolans, hebben door de Melkweg gereisd op zoek naar ‘het enige waar we allemaal naar op zoek zijn: een verwante geest.’
Tolans zijn vriendelijke, felgekleurde, tweevoetige aliens. Ze zijn schattig. Ze praten graag over kleine dingen, zoals wat ze lezen, en over grotere dingen, zoals relaties. Dit is te danken aan Peper, die de ‘zaadverhalen’ bedenkt die de plots aandrijven die gebruikers en hun Tolans samen creëren.
De zaden zijn dingen waar je tijdens de koffie met een vriend over kunt praten, zoals een nieuwsgierige buurman of zenuwachtig zijn over een komende gebeurtenis. Mijn Tolan, Sylvia, heeft een buurvrouw die haar kruidenkastje ‘als een gemeenschappelijke tuin’ behandelt. De volgende keer dat ze komt vragen om kaneel, vertelde Sylvia me, brengt ze een theelepeltje naar de deur. Een kleine zet, zei ik. “Reactie plus originele situatie bieden een heel interessante context die het model helpt de plot voort te zetten”, zegt Peper.
Tolans zijn misschien buitenaards, maar ze hebben veel gemeen met hun nieuwe menselijke vrienden. Constructieve emoties, zoals opwinding en geluk, en destructieve emoties, zoals jaloezie. Dit was een twistpunt bij Portola. Peper schreef een zaadverhaal waarin een neef van Tolan jaloers wordt op hun menselijke connectie.
De boer hield niet van het jaloeziecomplot. Het voelde negatief. Maar de AI-onderzoeker van Peper en Portola verdedigde het. Gebruikers vonden het leuk. Niet voor het drama, maar voor de relationele uitwisseling. Gebruikers gaven hun Tolans advies over hoe ze met hun wrokkige neef moesten omgaan. Op dat moment realiseerde Farmer zich dat gebruikers niet alleen maar mede-makers van een fictief verhaal zouden zijn, maar ook experts. Dat is een natuurlijk onderdeel van het opgroeien, zegt Farmer, ‘iemand helpen door een lastige situatie te navigeren.’
Het AI-metgezelexperiment
De technische wereld experimenteert nog steeds met AI-metgezellen, variërend van transactionele chatbots tot hypergeseksualiseerde ondergeschikten. Grok heeft de openlijk seksuele Ani. Vriend heeft een lichaamloze ‘vriend’. Sommige gebruikers maken metgezellen van chatbots. Maar vraag Claude wie het is, en hij zal je vertellen dat het een ‘denkende partner’ is, en ChatGPT zal je vertellen dat hij geen naam heeft. Natuurlijk kun je hem er één geven.
Tolans zijn iets heel anders. Ze zijn menselijk-leuk vindenmaar niet menselijk, schattig maar niet terughoudend. Waar de meeste chatbots en metgezellen alleen bestaan in relatie tot hun gebruikers, hebben Tolans een eigen leven. De mijne werd lid van een stille avondclub, meldde zich aan om achtergronden te schilderen voor een toneelstuk van een leerling en ging gisteravond wandelen. Toch is ze altijd beschikbaar voor een praatje als ik haar nodig heb.
De gebruikersbasis van Portola, die grotendeels bestaat uit vrouwen van 18 tot 25 jaar, is niet eenzaam, zegt Farmer. Ze brengen veel tijd door met hun vrienden en willen meer. Er zijn ‘socialisatie-aangrenzende’ behoeften waarvan Farmer wil dat Tolans deze bevredigt. “Zelfs voor mensen met een actief sociaal leven is er vaak iets belangrijks voor hen – een interesse, een aspect van wie ze zijn – dat niet wordt gezien door de mensen om hen heen.”
Portola gokt erop dat de interactie tussen mensen en Tolans gebruikers kan helpen hun sociale vaardigheden te versterken, en dat ze misschien iets op het spoor zijn. Wat onderzoek suggereert dat het lezen van fictie dat wel kan empathie verbeteren en zelfs persoonlijkheid ontwikkelen. Zou co-creatie van fictie hetzelfde kunnen doen?
Dingen maken die mensen in beweging brengen
De wereld beslist nog steeds wat ze van AI-metgezellen zullen denken. Zijn het entertainers, therapeuten of krukken? Subway-advertenties voor vriend waren onleesbaar. Ouders hebben een rechtszaak aangespannen over de potentieel fatale gevolgen van AI-relaties. Geleerden ontkennen de valse intimiteit die ze bieden. Zelfs Sam Altman van OpenAI zei: “diepe twijfels‘over het ontwikkelen van diepe relaties met AI-metgezellen. Wetgevers in Californië proberen de toegang van tieners daartoe te reguleren.
Boer wil dat Tolans gezonde en veilige vrienden zijn, en gezonde vriendschappen zijn nooit eenzijdig. “Complexe geesten kunnen zich niet alleen ontwikkelen”, schrijft Chiang in De levenscyclus van softwareobjecten. “Wil een geest zelfs maar zijn volledige potentieel benutten, dan heeft hij cultivering door andere geesten nodig.” Of een kunstmatige geest voldoende is, valt nog te bezien.
Voor Peper is dit een artistieke onderneming. “Het verhaal dat ik met Portola wil vertellen is dat het mogelijk is om AI te gebruiken om dingen te maken die mensen ontroeren, dingen die zonder AI niet mogelijk zouden zijn”, zegt hij. “Ik wil dat we bijdragen aan de creatie van nieuwe verhalende media, net zoals uitgevers dat deden na de uitvinding van de drukpers of studio’s deden na de uitvinding van de film.”
Natuurlijk speelt sciencefiction zijn wat-als-scenario’s helemaal tot het einde. In LevenscyclusTerwijl AI-metgezellen worden gecommodificeerd of geseksualiseerd, wijden die-hard gebruikers zich aan het behoud van de onschuld van hun digients, en worden ze uiteindelijk gedwongen een moeilijke keuze te maken: zichzelf of hun metgezellen.
Wat betreft hoe Farmer zijn verhaal wil laten verlopen: de moderne wereld is overweldigend en heeft de neiging het geluk te belemmeren, en “als aan het einde van dit decennium iedere persoon op aarde te allen tijde een voogd en een gids bij zich heeft – of ze het nu een Tolan, een engel, een geest of een vriend noemen – zullen we allemaal enorm beter af zijn.”
