Eerste partner van Californië Jennifer Siebel Newsom heeft onlangs een bijeenkomst belegd die zou kunnen behoren tot de top van zweetopwekkende nachtmerriescenario’s voor de techbros van Silicon Valley – een groep van de slimste en machtigste vrouwen van de Golden State die brainstormt over manieren om kunstmatige intelligentie te reguleren.
Regelgeving is het laatste wat er is deze specifieke, door Californië gedomineerde industrie wil, en heeft veel geld uitgegeven in zowel de staats- als de federale hoofdsteden om dit te vermijden – inclusief het financieren van de plannen van president Trump nieuwe balzaal. Regulering door een stel dames, veel moeders, waarbij de winst verre van op de tweede plaats komt na onze kinderen als het om zorgen gaat?
Ik zal je laten uitzoeken hoe populair dat waarschijnlijk zal zijn bij de Elon Musks, Peter Thiels en Mark Zuckerbergs van de wereld.
Maar zoals Siebel Newsom zei: “Als een platform een kind bereikt, draagt het de verantwoordelijkheid om dat kind te beschermen. Punt uit. De veiligheid van onze kinderen kan nooit op de tweede plaats komen.”
Overeengekomen.
De druk van Siebel Newsom op Californië om meer te doen om AI te reguleren komt op hetzelfde moment dat Trump dreigt staten ervan te weerhouden toezicht te houden op de technologie – en een nationale inspanning opvoert die de Amerikaanse schatkist de komende decennia zal openstellen voor AI-giganten.
Op dit moment worden de VS geconfronteerd met hun eigen nachtmerriescenario: de krachtigste en wereldveranderende technologie die we in ons leven hebben gezien, wordt ontwikkeld en ontketend onder vrijwel geen andere regels of beperkingen dan die gekozen door de mannen die persoonlijk voordeel zoeken uit de uitkomst.
Simpel gezegd lijkt het plan op dit moment te zijn dat deze technologiebaronnen de wereld zullen veranderen zoals zij dat nodig achten om geld voor zichzelf te verdienen, en wij als belastingbetalers zullen hen daarvoor betalen.
“Als beslissingen voornamelijk worden gedreven door macht en winst in plaats van door zorg en verantwoordelijkheid, raken we volledig de weg kwijt, en gezien de huidige afstemming tussen tech-titanen en de federale overheid geloof ik dat we de weg kwijt zijn”, aldus Siebel Newsom.
Om samen te vatten hoe het tot nu toe is gegaan: Trump heeft onlangs geprobeerd een verbod van tien jaar op de mogelijkheid van staten om toezicht te houden op de sector in zijn belachelijk genoemde ‘Big Beautiful Bill’ te stoppen, maar dit werd teruggetrokken door een tweeledige groep in de Senaat – een vroege indicator van hoe opruiend deze kwestie is.
Geconfronteerd met die onverwachte blokkade heeft Trump gedreigd een verdrag te ondertekenen mysterieus uitvoerend bevel het verlammen van het vermogen van staten om AI te reguleren en pogingen om geld in te houden van degenen die dat proberen.
Tegelijkertijd hebben de meest laffe en laffe Republikeinse congresleden voorgesteld om een verbod van tien jaar toe te voegen aan de komende wet op het defensiebeleid, die vrijwel zeker zal worden aangenomen. Natuurlijk heeft het Congres ook geweigerd om zelf vooruitgang te boeken op het gebied van enige betekenisvolle federale regelgeving, terwijl technologie-CEO’s, waaronder Trump-vijand Musk, Apple’s Tim Cook, Meta’s Zuckerberg en vele anderen, zich uitleven op mooie evenementen in het Witte Huis.
Dat is misschien de reden waarom Trump deze week de “Genesis-missie”, een uitvoerend bevel dat schijnbaar de onvoorstelbare omvang van de onderzoeksinspanningen van de overheid in verschillende disciplines zal overnemen en deze in een soort AI-model zal dumpen dat “een revolutie teweegbrengen in de manier waarop wetenschappelijk onderzoek wordt uitgevoerd.”
Hoewel ik er zeker van ben dat er in dat scenario niets mis kan gaan, is dat niet het deel dat onmiddellijk alarmerend is. Dit is: het project zal onder toezicht staan van Trumps wetenschaps- en technologiebeleidsadviseur Michael Kratsios, die geen wetenschaps- of ingenieursdiploma heeft, maar voorheen een topman was voor Thiel en voormalig hoofd van een ander AI-bedrijf dat samen met het Pentagon aan oorlogsprojecten werkt.
Kratsios wordt beschouwd als een van de belangrijkste redenen waarom Trump de techbros tijdens zijn tweede termijn met zoveel bewondering heeft omarmd. Genesis zal vrijwel zeker enorme overheidscontracten betekenen voor deze ‘partners’ uit de particuliere sector, waardoor de AI-boom (of zeepbel) wordt aangewakkerd met belastinggeld.
De boodschap van Siebel Newsom in het licht van dit alles is dat we niet hulpeloos zijn – en dat Californië, als de thuisbasis van veel van deze bedrijven en als de op drie na grootste economie ter wereld, inspraak moet hebben in de manier waarop deze technologie zich ontwikkelt, en ervoor moet zorgen dat dit gebeurt op een manier die ons allemaal ten goede komt en beschermt.
“Californië bevindt zich in een unieke positie om het voortouw te nemen bij het tonen van innovatie en verantwoordelijkheid en hoe deze hand in hand kunnen gaan”, zei ze. “Ik heb altijd geloofd dat sterkere vangrails op de lange termijn eigenlijk goed zijn voor het bedrijfsleven. Veiligere technologie betekent betere resultaten voor consumenten en een groter consumentenvertrouwen en -loyaliteit.”
Maar de druk om te bezwijken voor de macht van deze bedrijven is groot, zoals de echtgenoot van Siebel Newsom weet.
Regering Gavin Newsom heeft de afgelopen jaren doorgebracht proberen de naald in de staatswetgeving te steken dat biedt een soort toezicht en maakt tegelijkertijd de innovatie mogelijk die Californië en de Verenigde Staten terecht concurrerend houdt op het mondiale front. De technologie-industrie heeft miljoenen uitgegeven aan lobbywerk, juridische gevechten en drukcampagnes om zelfs de meest goedaardige inspanningen af te zwakken, en dreigt zelfs de staat te verlaten als er regels worden ingevoerd.
Vorig jaar probeerde de sector tevergeefs te stoppen Senaatswetsvoorstel 53, mijlpaalwetgeving ondertekend door Newsom. Het is een fundamentele transparantiemaatregel voor ‘grensverleggende’ AI-modellen die vereist dat bedrijven over veiligheids- en beveiligingsprotocollen beschikken en bekende ‘catastrofale’ risico’s rapporteren, bijvoorbeeld wanneer deze modellen neigingen vertonen in de richting van gedrag dat meer dan vijftig mensen het leven zou kunnen kosten – en dat hebben ze, geloof het of niet.
Maar de industrie kon andere inspanningen tegenhouden. Newsom sprak zijn veto uit zowel Senaatswetsvoorstel 7, dat werkgevers zou hebben verplicht werknemers op de hoogte te stellen wanneer ze AI gebruiken bij aanwerving en promotie; en Assembly Bill 1064, die exploitanten van begeleidende chatbots zou hebben uitgesloten van het beschikbaar stellen van deze AI-systemen aan minderjarigen als ze niet konden bewijzen dat ze geen dingen zouden doen zoals het aanmoedigen van kinderen tot zelfbeschadiging, wat deze chatbots opnieuw hebben gedaan.
Toch heeft Californië (samen met New York en een paar andere staten) vooruitgang geboekt, en tijdens het evenement van Siebel Newsom zei de gouverneur tijdens de laatste sessie: “we hebben hier een aantal pogingen tegen ondernomen en we hebben enorme vooruitgang geboekt.”
Hij beloofde meer.
“We hebben keuzevrijheid. We kunnen de toekomst vormgeven”, zei hij. “We hebben een unieke verantwoordelijkheid als het gaat om deze technologische hulpmiddelen, omdat dit het centrum van dat universum is.”
Als Newsom vooruitgang blijft boeken, zal dat niet in de laatste plaats te danken zijn aan Siebel Newsom, en vrouwen zoals zij, die de tegendruk hoog houden.
In feite was het een andere machtige moeder, First Lady Melania Trump, die de federale regering dit jaar tot een klein beetje actie dwong toen ze opkwam voor de “Take It Down-act”wat vereist dat technologiebedrijven expliciete afbeeldingen zonder wederzijds goedvinden snel verwijderen. Ik betwijfel oprecht of haar man dat specifieke wetsvoorstel zonder haar aandringen zou hebben ondertekend.
Dus als we geluk hebben, kunnen de inspanningen van vrouwen als Siebel Newsom wel eens het stukje krachtige geestelijke gezondheid blijken te zijn dat nodig is om de wereldheerschappijfantasieën van de broligarchie een halt toe te roepen.
Omdat techbros, ondanks hun inspanningen, nog niet oppermachtig zijn, en zeker nog niet immuun voor de kracht van moeders.
