De Californische technologiebedrijven, het epicentrum van de staatseconomie, hebben politici dit jaar een luide boodschap gestuurd: trek je terug uit de restrictieve regulering van kunstmatige intelligentie, anders zullen ze vertrekken.
De tactiek leek te hebben gewerkt, zeiden activisten, omdat sommige politici de vangrails verzwakten of schrapten om de grootste risico’s van AI te beperken.
Regering Gavin Newsom verwierp een wetsvoorstel om begeleidende chatbots veiliger te maken voor kinderen nadat de technologie-industrie ertegen had gevochten. In zijn vetoboodschap uitte de gouverneur zijn bezorgdheid over het stellen van brede beperkingen aan AI, wat heeft geleid tot een enorme investeringsgolf en van de ene op de andere dag nieuwe miljardairs heeft gecreëerd rond de San Francisco Bay Area.
Assembly Bill 1064 zou exploitanten van begeleidende chatbots hebben uitgesloten van het beschikbaar stellen van deze AI-systemen aan minderjarigen, tenzij de chatbots niet “voorzienbaar in staat” waren tot bepaald gedrag, waaronder het aanmoedigen van een kind tot zelfbeschadiging. Newsom zei dat hij het doel steunde, maar vreesde dat het minderjarigen onbedoeld zou beletten AI-tools te gebruiken en te leren hoe ze technologie veilig kunnen gebruiken.
“We kunnen onze jongeren niet voorbereiden op een toekomst waarin AI alomtegenwoordig is door het gebruik van deze tools helemaal te voorkomen”, schreef hij in zijn vetobericht.
Het veto van het wetsvoorstel was een klap voor de voorstanders van kinderveiligheid die het door de wetgevende macht van de staat hebben geduwd, en een overwinning voor groepen uit de technologie-industrie die ertegen vochten. In advertenties op sociale media drongen groepen zoals TechNet er bij het publiek op aan om de gouverneur te vertellen een veto uit te spreken over het wetsvoorstel, omdat dit de innovatie zou schaden en ertoe zou leiden dat leerlingen achterstand zouden oplopen op school.
Organisaties die de grootste technologiebedrijven ter wereld proberen in toom te houden terwijl zij de krachtige technologie bevorderen, zeggen dat de technologie-industrie meer macht heeft gekregen op nationaal en staatsniveau.
Meta, Google, OpenAI, Apple en andere grote technologiebedrijven hebben hun relaties met de regering-Trump versterkt. Bedrijven financieren nieuwe organisaties en politieke actiecomités om het AI-beleid van de staat terug te dringen, terwijl ze geld in lobbyen steken.
In Sacramento hebben AI-bedrijven achter de schermen gelobbyd voor meer vrijheid. De enorme pool van technisch talent, technologie-investeerders en bedrijven in Californië maakt het een aantrekkelijke plek voor de technologie-industrie, maar bedrijven laten beleidsmakers weten dat andere staten ook geïnteresseerd zijn in het aantrekken van die investeringen en banen. Big Tech is bijzonder gevoelig voor de regelgeving in de Golden State, omdat zoveel bedrijven daar hun hoofdkantoor hebben en zich aan de regels moeten houden.
“Wij geloven dat Californië een beter evenwicht kan vinden tussen het beschermen van consumenten en het mogelijk maken van verantwoorde technologische groei”, zegt Robert Boykin, uitvoerend directeur van TechNet voor Californië en het Zuidwesten, in een verklaring.
Jim Steyer, oprichter en algemeen directeur van Common Sense Media, zei dat technologielobbyisten enorme druk uitoefenen op Newsom om een veto uit te spreken over AB 1064. Common Sense Media, een non-profitorganisatie die technologie en entertainment voor gezinnen beoordeelt en beoordeelt, sponsorde het wetsvoorstel.
‘Ze dreigen de economie van Californië te schaden’, zei hij. “Dat is de basisboodschap van de technologiebedrijven.”
Reclame is een van de tactieken die technologiebedrijven met diepe zakken gebruiken om politici ervan te overtuigen de wetgeving af te schaffen of te verzwakken. Zelfs als de gouverneur een wetsvoorstel tekent, hebben bedrijven soms een rechtszaak aangespannen om te voorkomen dat nieuwe wetten van kracht worden.
“Als je echt iets gewaagds probeert te doen met het technologiebeleid, moet je over veel hindernissen heen springen”, zegt David Evan Harris, senior beleidsadviseur bij het California Initiative for Technology and Democracy, dat AB 1064 steunde. De groep richt zich op het vinden van oplossingen op staatsniveau voor de bedreigingen die AI, desinformatie en opkomende technologieën vormen voor de democratie.
Technologiebedrijven hebben gedreigd hun hoofdkantoren en banen naar andere staten of landen te verplaatsen, een risico dat op de loer ligt voor politici en toezichthouders.
De California Chamber of Commerce, een brede belangenorganisatie voor het bedrijfsleven waartoe ook technologiegiganten behoren, lanceerde dit jaar een campagne waarin werd gewaarschuwd dat overregulering innovatie zou kunnen onderdrukken en Californië zou belemmeren.
“Het harder maken van de concurrentie zou ertoe kunnen leiden dat Californische bedrijven elders gaan uitbreiden, wat de economie van de staat miljarden zou kunnen kosten”, aldus de groep. website.
Van januari tot september heeft de Californische Kamer van Koophandel 11,48 miljoen dollar uitgegeven aan het lobbyen bij Californische wetgevers en toezichthouders voor een verscheidenheid aan wetsvoorstellen, zo blijkt uit deponeringen bij de Californische minister van Buitenlandse Zaken. Gedurende die periode gaf Meta $ 4,13 miljoen uit. Uit een openbaarmakingsrapport over lobbyactiviteiten blijkt dat Meta de Californische Kamer van Koophandel $ 3,1 miljoen heeft betaald, wat het grootste deel van haar uitgaven uitmaakt. Google, dat ook TechNet en de California Chamber of Commerce betaalde, gaf 2,39 miljoen dollar uit.
Amazon, Uber, DoorDash en andere technologiebedrijven gaven elk meer dan $ 1 miljoen uit. TechNet heeft ongeveer $ 800.000 uitgegeven.
De dreiging dat Californische bedrijven zouden wegtrekken trok de aandacht van sommige politici.
Californië Atty. Generaal Rob Bonta, die technologiebedrijven heeft onderzocht vanwege zorgen over de veiligheid van kinderen, gaf aan dat zijn kantoor, ondanks aanvankelijke zorgen, zich niet zou verzetten tegen de herstructureringsplannen van ChatGPT-maker OpenAI. De nieuwe structuur geeft de non-profitorganisatie van OpenAI een belang in haar winstgevende onderneming van openbaar nut en maakt de weg vrij voor OpenAI om haar aandelen te noteren.
Bonta zegende de herstructurering deels vanwege de belofte van OpenAI om in de staat te blijven.
“Veiligheid zal prioriteit krijgen, evenals de toezegging dat OpenAI hier in Californië zal blijven”, zei hij vorige week in een verklaring. Het kantoor van de AG, dat toezicht houdt op liefdadigheidsinstellingen en ervoor zorgt dat deze activa worden gebruikt voor algemeen nut, heeft het herstructureringsplan van OpenAI de afgelopen anderhalf jaar onderzocht.
OpenAI-topman Sam Altman zei dat hij blij is om in Californië te blijven.
“Californië is mijn thuis, en ik vind het hier geweldig, en toen ik twee weken geleden met procureur-generaal Bonta sprak, heb ik duidelijk gemaakt dat we niet zouden doen wat die andere bedrijven doen en dreigen te vertrekken als ze worden aangeklaagd”, schreef hij op X.
Critici – waaronder enkele technologieleiders zoals Elon Musk, Meta en voormalige leidinggevenden van OpenAI, evenals non-profitorganisaties en stichtingen – hebben hun bezorgdheid geuit over het herstructureringsplan van OpenAI. Sommigen waarschuwden ervoor dat startups belastingvrijstellingen voor liefdadigheidsinstellingen zouden kunnen exploiteren en dat OpenAI voorrang zou geven aan financieel gewin boven het algemeen belang.
De persdienst van de procureur-generaal zei donderdag dat veiligheid een topprioriteit blijft.
“Procureur-generaal Bonta gelooft dat Californië een robuuste economie en regelgeving kan hebben die innovatie en ontwikkeling aanmoedigt en tegelijkertijd de naleving van de Californische wet en de veiligheid van consumenten garandeert. Dit zijn geen elkaar uitsluitende ideeën”, aldus het kantoor in een verklaring.
Wetgevers en belangengroepen zeggen dat het een gemengd jaar is geweest voor technologieregulering. De gouverneur ondertekende Assembly Bill 56, die platforms verplicht om labels voor minderjarigen weer te geven die waarschuwen voor de schade aan de geestelijke gezondheid van sociale media. Een ander ondertekend wetsvoorstel, Senaatswet 53, heeft tot doel AI-ontwikkelaars transparanter te maken over veiligheidsrisico’s en biedt meer bescherming voor klokkenluiders.
De gouverneur ondertekende ook een wetsvoorstel dat chatbotoperators verplicht om procedures te hebben om de productie van zelfmoord- of zelfbeschadigende inhoud te voorkomen. Maar belangengroepen, waaronder Common Sense Media, hebben hun steun voor Senaatswetsvoorstel 243 ingetrokken omdat ze zeiden dat de technologie-industrie aandrong op veranderingen die haar bescherming verzwakten.
Newsom sprak zijn veto uit over andere wetgeving waar de technologie-industrie tegen was, waaronder Senaatswetsvoorstel 7, dat werkgevers verplicht hun werknemers op de hoogte te stellen voordat ze een “geautomatiseerd beslissingssysteem” inzetten bij aanwerving, promoties en andere werkgelegenheidsbeslissingen.
De wetgeving, die de ‘No Robo Bosses Act’ werd genoemd, gaf de gouverneur geen toestemming, die vond dat deze te breed was.
“Tijdens het wetgevingsproces is veel nuance aangetoond over de balans tussen het garanderen van zinvolle bescherming en het stimuleren van innovatie”, zegt Julia Powles, hoogleraar en uitvoerend directeur van het UCLA Institute for Technology, Law & Policy. Het veto van SB 7, voegde ze eraan toe, was een “teleurstellend verlies” omdat het wetsvoorstel bedoeld was om de zorgen over het misbruik van AI op de werkplek weg te nemen.
De strijd om de veiligheid van AI is nog lang niet voorbij. Assemblylid Rebecca Bauer-Kahan (D-Orinda), die mede-auteur was van AB 1064, zei dat ze van plan is de wetgeving nieuw leven in te blazen.
De veiligheid van kinderen is een kwestie die zowel Democraten als Republikeinen onderzoeken nadat ouders AI-bedrijven zoals OpenAI en Character.AI hebben aangeklaagd omdat ze zouden hebben bijgedragen aan de zelfmoorden van hun kinderen.
“De schade die deze chatbots aanrichten voelt zo snel en furieus, openbaar en reëel dat ik dacht dat we een andere uitkomst zouden hebben”, aldus Bauer-Kahan. “Ik vind het altijd fascinerend als de uitkomst van beleid los staat van wat het publiek volgens mij wil.”
Steyer van Common Sense Media zei dat hij een nieuw steminitiatief heeft ingediend dat AI-vangrails zou toevoegen waar Newsom zijn veto over had uitgesproken in AB 1064.
“Dat was een tegenslag, maar geen algehele nederlaag”, zei hij over het veto van AB 1064. “Dit is een David- en Goliath-situatie, en wij zijn David.”
