Home Nieuws AI-bedrijven vechten met de Amerikaanse overheid over veiligheid? ‘The X-Files’ voorspelde het...

AI-bedrijven vechten met de Amerikaanse overheid over veiligheid? ‘The X-Files’ voorspelde het in 1993

6
0
AI-bedrijven vechten met de Amerikaanse overheid over veiligheid? ‘The X-Files’ voorspelde het in 1993

Met zijn vele buitenaardse gaststerren, De X-bestanden Het was altijd bedoeld als een griezelige show. Een van de eerste afleveringen is nu echter griezelig op een manier die de makers waarschijnlijk nooit hebben bedoeld.

In ‘Ghost in the Machine’, een eerste seizoen opvallend die oorspronkelijk werd uitgezonden in 1993, een bewuste, door het bedrijfsleven gecreëerde film AI wordt dodelijk wanneer het een bedreiging voor zijn bestaan ​​waarneemt.

Die beschrijving klinkt misschien bijna identiek aan een aantal eerdere verhaallijnen over killer-computers:2001: Een ruimte-odyssee de meest voor de hand liggende toetssteen zijn, samen met Terminator 2die slechts twee jaar eerder was uitgekomen.

Wat bepaalt dit X-bestanden Afgezien van andere vermeldingen in de dodelijk bewuste AI-canon, is het een op veiligheid gerichte tech-CEO die het opneemt tegen een strijdlustig Amerikaans ministerie van Defensie, dat wanhopig de AI van dit bedrijf wil gebruiken in gevechtsoperaties zonder vangrails.

Klinkt bekend?

Een geest in de machine

Gedurende de negen originele seizoenen, twee speelfilms en een reboot, De X-bestanden cultiveerde een overkoepelende mythologie. De makers van de show gingen echter wijselijk regelmatig offroad-avonturen, met op zichzelf staande Monster of the Week-afleveringen die fans hielpen scherp te houden.

“Ghost in the Machine” is zo’n excursie, alleen het monster bleek in dit geval AI te zijn.

De show begint met de CEO van het te schattig genaamde softwarebedrijf Eurisko (risico loop je?) die een memo schrijft over het afsluiten van het centrale besturingssysteem AI dat het hoofdkantoor van het bedrijf bestuurt.

Helaas, omdat de AI het hele gebouw in de gaten houdt, pikt het dit plan op en kiest er in plaats daarvan voor om met extreme vooroordelen de CEO zelf te sluiten – via elektrocutie.

Voer FBI-speciale agenten Fox “Spooky” Mulder (David Duchovny) en Dana Scully (Gillian Anderson) in. Hun onderzoek leidt hen al snel naar de oprichter van Eurisko, Brad Wilczek, die aanvankelijk bereid is de schuld op zich te nemen voor de moord op zijn CEO.

Maar door wat dieper te graven ontdekt Mulder dat niet alleen de AI van Eurisko de echte boosdoener is, maar dat het ministerie van Defensie al jaren probeert die AI in handen te krijgen, maar telkens wordt afgewezen door Wilczek.

(“Het is een leermachine”, zegt een personage. “Een computer die echt nadenkt. En het is een soort heilige graal geworden voor onze meer hebzuchtige collega’s bij het ministerie van Defensie.”)

Uiteindelijk werken Mulder en Scully samen met Wilczek om de AI te frituren, tot grote ergernis van een mol van het ministerie van Defensie die de hele tijd bij Eurisko heeft gewerkt. Dossier gesloten!

In 1993 paste ‘Ghost in the Machine’ precies in het paranoïde ‘waarheid is daar’-ethos van een sciencefictionshow over buitenaardse samenzweringen. Nu is het niet dichter bij het rijk van de documentaire.

Hoewel de show 25 jaar later opnieuw zou terugkeren naar het onderwerp AI in een van de reboot-afleveringen – die van 2018 “Rm9sbG93ZXJz,” een meer Zwarte spiegel-y draai aan de angst voor je smartphone: het is het oudere en weliswaar goedkope uitje dat veel relevanter is in 2026.

Het meest in het oog springende punt van vooruitziendheid is natuurlijk dat het met griezelige nauwkeurigheid lijkt te hebben voorspeld de recente strijd tussen de Amerikaanse regering en AI-zwaargewicht Anthropic – om nog maar te zwijgen van het gebruik van AI door de regering in de huidige oorlog met Iran.

Onze meer hebzuchtige collega’s bij het Ministerie van Defensie

In tegenstelling tot zijn fictieve tegenhanger in De X-bestandenAnthropic-medeoprichter Dario Amodei was zeer geïnteresseerd in het uitlenen van zijn AI-model aan Uncle Sam. Afgelopen juli, Antropisch tekende een contract ter waarde van $ 200 miljoen met het Amerikaanse ministerie van Defensie om zijn Claude-model ter beschikking te stellen voor gebruik bij geclassificeerd en operationeel werk.

Pas toen de onderhandelingen begonnen over wat dergelijk werk eigenlijk zou kunnen inhouden, ontstonden er onverenigbare meningsverschillen.

Als het heen en weer De belangrijkste knelpunten, die zich voortsleepten tot eind 2025 en tot in januari van dit jaar, waren de eis van Anthropic om gebruiksbeperkingen op te leggen aan Claude – vooral dat het niet zou mogen worden ingezet voor grootschalige binnenlandse surveillance of voor het bouwen van volledig autonome wapens zonder menselijk toezicht.

Het Pentagon anders aangedrongen.

Hier komen de overeenkomsten tussen Amodei en Wilczek van Eurisko Echt interessant. (Het feit dat Amodei iets van een fysieke gelijkenis naar Wilczek kan ook niet worden genegeerd.)

Waarom wilde de fictieve oprichter de burgerbevolking beschermen tegen het Amerikaanse ministerie van Defensie met behulp van zijn AI? Hij legt het zelf uit in het volgende gesprek met Mulder:

Wilczek: Nadat de bom op Hiroshima en Nagasaki was gevallen, had Robert Oppenheimer de rest van zijn leven spijt dat hij ooit een glimp van een atoom had gezien.

Mulder: Oppenheimer heeft misschien spijt gehad van zijn daden, maar hij heeft nooit de verantwoordelijkheid ervoor ontkend.

Wilczek: Hij hield van het werk, meneer Mulder. Zijn fout was dat hij het deelde met een immorele regering. Ik zal niet dezelfde fout maken.

Amodei presenteert zichzelf publiekelijk in een soortgelijk licht, zij het met minder officiële praatjes over de immoraliteit van de overheid.

Hij heeft vaak aanbevolen Het boek van Richard Rhodes Het maken van de atoombom bij sollicitatiegesprekken, naar verluidt gebruikt om exemplaren van het boek aan nieuwe medewerkers te geven, en bewaart er een prominent tentoongesteld in de Antropische bibliotheek.

Hoewel Amodei’s collega, OpenAI-oprichter Sam Altman, ook vaak over Oppenheimer heeft gesproken een waarschuwend voorbeeldAmodei heeft nu bewezen meer bereid te zijn om in deze kwestie bij zijn standpunt te blijven.

De afgelopen weken zei minister van Defensie Pete Hegseth stelde Anthropic een ultimatum om de vraag naar veiligheidsleuningen te laten vallen, anders worden de consequenties onder ogen gezien. Antropisch weigerde. Als gevolg hiervan Hegseth maakte zijn dreigement waarwaarbij Anthropic formeel werd bestempeld als een ‘toeleveringsketenrisico’ – de eerste keer dat het Pentagon dat label op een Amerikaans AI-bedrijf heeft toegepast.

Antropisch heeft sindsdien heeft het Pentagon aangeklaagd boven deze maatregel. Als bonus noemde het Witte Huis Antropisch een ‘radicaal-links’, ‘ontwaakt’ bedrijfen president Trump gaf alle federale agentschappen opdracht om te stoppen met het gebruik van Claude.

Ondertussen voormalig Oppenheimer-recaller Altman heeft ingestemd om OpenAI de militaire leegte te laten vullen, zij het met vangrails, aldus het bedrijf.

AI bij was

De X-bestanden aflevering “Ghost in the Machine” eindigt met het ministerie van Defensie dat wordt gedwarsboomd en de gewenste AI, die ogenschijnlijk is vernietigd, en naar de kijkers telegrafeert dat het nog steeds leeft, om zo te zeggen: de epilogische hand die uit een graf vliegt in een horrorfilm.

In het echte leven kreeg de overheid echter zonder enige insinuatie grip op haar AI.

Ondanks het formele verbod op het federale gebruik van de instrumenten van Anthropic, delen delen van het Amerikaanse leger Blijf op Claude vertrouwen in gevechtsoperaties, omdat deze al diep verankerd waren. (Ze volledig verwijderen kan maanden duren.) In de tussentijd, volgens de Wall Street JournalDe huidige oorlog met Iran demonstreert het nut van Claude.

“AI-tools helpen bij het verzamelen van informatie, het kiezen van doelen, het plannen van bombardementsmissies en het inschatten van gevechtsschade met snelheden die voorheen niet mogelijk waren”, onthult het rapport. “AI helpt commandanten bij het beheren van de voorraden, van munitie tot reserveonderdelen, en laat hen voor elk doel het beste wapen kiezen.”

Op 28 februari, bij het begin van de Amerikaans-Israëlische oorlog tegen Iran, een Tomahawk-raket trof een Iraanse basisschoolwaarbij minstens 175 mensen om het leven kwamen – de meesten van hen kinderen. Recente berichtgeving suggereert sterk dat dit niet alleen het geval was de VS zijn verantwoordelijk voor de raketaanvalmaar dat was de school op een Amerikaanse doelwitlijst en kan zijn aangezien voor een militair terrein.

Op het moment van schrijven heeft niemand binnen de Amerikaanse regering de verantwoordelijkheid voor de fout opgeëist.

De X-bestanden aflevering en films zoals Terminator 2 wakkerde de angst aan dat een bewuste AI zou kunnen besluiten de hele mensheid uit te roeien. Ze konden de meer directe dreiging in 2026 niet voorzien: dat een immorele regering zou besluiten een deel van de mensheid uit te roeien en AI de schuld op zich zou laten nemen.

Nieuwsbron

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in