Zelfs rustige en enigszins onderbesproken afleveringen van Star Trek: de volgende generatie hebben vreemd vooruitziende eigenschappen. Tijdens het bijna perfecte vierde seizoen, TNG had verschillende knallers, en ook enkele afleveringen die onder de sensoren vlogen. In de week van 11 februari 1991 was een van die afleveringen ‘Clues’, de veertiende aflevering van Seizoen 4wat destijds een leuke hoofdkrabber leek. Maar vandaag de dag ziet de aflevering er iets anders uit dan in 1991. Wat toen een vreemd verhaal was over een scheepsmysterie, leest nu eigenlijk als een soort voorspellend verhaal dat van toepassing is op de zorgen van de 21e eeuw over wat AI doet, en ons niet vertelt over de waarheid.
Dit is de reden waarom “Clues” nu de moeite waard is om opnieuw te bekijken, en hoe Mr. Data (Brent Spiner) fungeert als een ambitieuze AI, met een grote twist.
Spoilers vooruit.
In de film uit 2014 InterstellairEr wordt een lopende grap gemaakt dat de robot TARS altijd een beetje tegen de bemanning liegt, anders zouden de mensen zich ongemakkelijk voelen. Dit idee grijpt terug op enkele van de meest formatieve speculatieve fictie over kunstmatige intelligentie; we willen dat onze robots ons als gereedschap dienen, maar we houden ook niet altijd van de antwoorden die worden gegenereerd door databases en algoritmen. In het Isaac Asimov-verhaal uit 1941 “Liar!” een robot begint te liegen tegen zijn verschillende menselijke collega’s, uit bezorgdheid voor hun gevoelens, en slaafs vasthoudend aan zijn ‘doe geen kwaad’-programmering, begint hij leugens om bestwil te vertellen.
Houd de telefoon vast! Onze AI liegt!
Paramount/CBS
Gegooid door een fan genaamd Bruce D. Arthurswerd het spec-script voor “Clues” later herschreven door TNG stafmedewerker Joe Menosky. Dit opendeurbeleid, dat TNG zouden scriptinzendingen aannemen van buiten hun schrijverskamer, begon in seizoen 3 en vertegenwoordigt een van de coolste dingen van de iconische serie; het moment waarop alle ideeën welkom waren en legitieme afleveringen van Star Trek konden worden.
Toepasselijk is dus het concept van de TNG aflevering ‘Clues’ gaat over voorkennis versus wat we ‘de waarheid’ kunnen noemen. In eerste instantie begint de aflevering met een ruimtemysterie: de Onderneming glijdt in een wormgat en verliest een hele dag. Iedereen valt flauw en Data, een Android, is de enige persoon die niet getroffen is. Naarmate de aflevering vordert, geven verschillende details aan dat er iets is gebeurd dat niet klopt met Data’s beoordeling van wat er is gebeurd. Nadat hij wat obscure technische mumbo-jumbo heeft laten vallen om de verklaring voor waarom iedereen werd uitgeschakeld weg te wuiven, vraagt kapitein Picard (Patrick Stewart) de bemanning rechtuit: liegt Data, hun onfeilbare AI-vriend en vertrouweling, tegen hen allemaal?
De aflevering krijgt dan een dubbel mysterie: wat is er met de bemanning gebeurd, En waarom zou Data erover liegen? Net als de robots van vroeger zijn Data geprogrammeerd met Asimoviaanse wetten; hij moet bevelen van mensen gehoorzamen, maar hij kan ook niet toestaan dat mensen schade oplopen door handelen of nalaten. Dus, zoals bij veel goede Star Trek-conflicten, gaat de vraag hier niet over kwaadwilligheid of bedrog met kwade bedoelingen, maar over een complexer probleem. De gegevens zijn niet slecht geworden en hebben de controle over het schip overgenomen (dat is voor een andere aflevering), maar hij liegt. Waarom?
Het vergelijken van gegevens met moderne AI-chatbots is verleidelijk, ook al is het een glibberige analogie. ChatGPT en Grok hebben geen gevoel, noch hebben ze de wens om menselijker te worden, tapdanslessen te volgen of verliefd te worden. Data zijn, paradoxaal genoeg, een analoge AI; hij maakt geen deel uit van een wolk van gedeelde informatie zoals de Borg of het internet, en zijn beslissingen worden uitgevoerd op hardware die niet ‘online’ is, om zo te zeggen. En toch leren we op de laatste momenten van deze aflevering dat Data dat wel was besteld door Picard zelf tegen de bemanning te liegen. De reden? Een zeer gevaarlijke en isolationistische uitheemse soort eiste dat het geheim gehouden zou worden, en de enige oplossing was het massaal wissen van het geheugen, en het bevel krijgen van Data om het geheim voor altijd te bewaren.
Kunnen we gegevens vertrouwen? Kunnen we AI vertrouwen?
Paramount/CBS
In de huidige context gaat het niet echt om het hallucineren van AI of het geven van valse informatie, maar om het verbergen van wat wordt geacht schadelijk informatie van de bevolking als geheel. Gebeurt dit vandaag? Reken maar. Je kunt apps downloaden die voorkomen dat je online gaat, er zijn overal inhoudsfilters en verschillende chatbots kunnen om voor de hand liggende redenen niet over specifieke dingen praten.
In de Star Trek-voorspelling van onze AI-toekomst zouden de biologische mensen echter nog steeds de volledige controle hebben. De gemiddelde persoon heeft geen goed idee van wat AI is en waar hij geen gelijk in heeft, waardoor we allemaal meer lijken op de naamloze bemanningsleden van de Onderneming die nog nooit van dit schandaal had gehoord en nooit wist dat Data had moeten liegen. In onze gedachten lijken we allemaal op Kapitein Picard, die onze technologie vertelt wat ze moeten doen en wanneer ze dat moeten doen. Maar in de praktijk is de toekomst van AI-bedrog – opzettelijk of niet – duisterder. De Onderneming De bemanning slaapt uiteindelijk gemakkelijk, wetende dat als Data over een heleboel dingen liegt, ze hem nog steeds kunnen vertrouwen. Het is jammer dat Mr. Data in onze dappere, nieuwe wereld nog steeds een volkomen anachronistische soort kunstmatige levensvorm is. Als we wisten dat Data ChatGPT of Grok aan het factchecken was, zouden we ons misschien allemaal ook beter voelen.
