Er ontstaan eindelijk kampen in de grote strijd over de vraag of en hoe te reguleren AI. President Donald Trump verklaarde eerder deze week dat hij lokale functionarissen die de technologie proberen te reguleren, zou blokkeren; Volgens een ontwerp van uitvoerend bevel dat woensdag is uitgelekt, zal de regering staten die dat proberen, straffen. Staatswetgevers en leden van het Congres – waaronder de Republikeinse vertegenwoordiger van Georgië, Marjorie Taylor Greene – dringen nu terug.
Dit heeft lang geduurd. Leden van het Congres hebben talloze voorstellen gedaan voor het reguleren van kunstmatige intelligentie, maar er is geen significant wetgevingspakket tot stand gekomen. De regering-Biden heeft een groot uitvoerend bevel uitgevaardigd over de technologie, maar de regering-Trump heeft aanzienlijk kapitaal uitgegeven aan de aanval daarop, en heeft uiteindelijk een groot deel van de maatregel ingetrokken.
“De federale overheid heeft zelfs niet de minimale maatregelen genomen, ondanks de vrij brede steun van beide partijen, bijvoorbeeld over het beheersen van de risico’s en de schade voor kinderen. Als er één ding is waar we het allemaal over eens kunnen zijn, dan is het dat wel”, vertelt Arati Prabhakar, voormalig directeur van het Defense Advanced Research Projects Agency (DARPA) tijdens de regering-Obama en hoofd van het Office of Technology and Science Policy tijdens de regering-Biden. Snel bedrijf. “Zeggen dat de staten niets zouden moeten doen omdat de federale overheid het zou moeten doen – en zich vervolgens verzetten tegen elke actie op federaal niveau – heeft gewoon geen enkele zin.”
Snel bedrijf senior schrijfster Rebeccah Heilweil sprak met Prabhakar – die dat ook heeft gedaan heeft een grote brief ingediend het verdedigen van het vermogen van het Congres om wetenschappelijk onderzoek te ondersteunen te midden van federale financieringsproblemen – over waar we vandaag staan met AI-regulering, en wat de voortdurende opkomst van de technologie zou kunnen betekenen voor de toekomst van de Amerikaanse democratie, bestuur en welzijn. Dit interview is aangepast voor duidelijkheid en lengte.
De regering heeft duidelijk gemaakt dat zij niet vindt dat er AI-regulering op staatsniveau moet komen, en blijft dit doorsturen naar de federale overheid om deze te reguleren. Dat is duidelijk in het belang van sommige AI-bedrijven. Wat denk je daarvan?
Staten zijn zeer actief geweest. Elke staat heeft vaak meerdere wetsvoorstellen overwogen. Maar als je het geheel bekijkt, zijn de meeste van wat er is uitgevaardigd transparantiemaatregelen. Dat is een begin, maar het is een vrij klein begin.
Ik denk dat we nog lang niet met deze technologie bezig zijn en deze op de juiste koers zetten. Het is belachelijk om te doen alsof de federale overheid dat gaat bereiken zonder de staten.
De regering-Trump heeft het grote uitvoerende bevel van Biden inzake AI ingetrokken. Wat is de impact daarvan geweest? (Noot van de redactie: het uitvoerend bevel van Biden over AI, dat was ondertekend in oktober 2023 gaven federale agentschappen een reeks nieuwe verantwoordelijkheden met betrekking tot de technologie, evenals richtlijnen voor het gebruik ervan.)
De acties die deze regering op vele fronten heeft ondernomen, zijn zeer zorgwekkend. Ze hebben het land in een nationale crisis gebracht. Het AI-front is er een waarin het niet zo dramatisch is geweest. Het wordt gepositioneerd als een grote, dramatische verschuiving, maar een groot deel van de implementatie van het uitvoerend bevel onder president Biden had al plaatsgevonden. Ik heb zelfs gevallen gezien waarin ze de eer opeisen voor dingen die afdelingen en agentschappen beter deden vanwege hun goede gebruik van AI.
Het grotere probleem is eigenlijk dat deze regering geen stappen zet in de twee dingen die we als land moeten doen om AI volledig op het goede spoor te krijgen. De markt doet al het experiment om erachter te komen waar het bedrijf zich bevindt productiviteit toepassingen wel, maar er zijn twee publieke rollen die momenteel niet echt aan bod komen in deze regering. De ene is het beheersen van risico’s en schade, en de andere gaat alleen actief achter AI aan voor publieke doeleinden.
Dat is waar wij tekortschieten. In een tijd waarin de krachtigste technologie van onze tijd net aan een opmars bezig is, treedt deze regering niet op.
Hoe bezorgd bent u over mensen die zeer psychologische, zelfs zeer romantische of zelfs seksuele relaties ontwikkelen met chatbots?
Voor mij maakt het deel uit van deze vervorming van de werkelijkheid die begon in het tijdperk van de sociale media – wat overigens ook AI was, toch? Het was AI achter de schermen die bepaalde wat je te eten kreeg. Nu wordt het nog verergerd door AI die je recht in het gezicht brengt met chatbots of beeldgeneratoren. Ik denk dat het zeer zorgwekkend is.
Het is een heel spectrum – van de polarisatie die is veroorzaakt door desinformatie en desinformatie, helemaal tot aan deze parasociale relaties. Er zijn enkele werkelijk tragische gevallen geweest, zelfs zelfmoorden die het resultaat waren van een dialoog die iemand die zich in een werkelijk gevaarlijke, kwetsbare toestand bevond, op een verschrikkelijke manier aan het einde bracht.
AI roept gesprekken op over cognitieve ontlading. We halen vaak de rekenmachine aan, waar we, ja, niet zo goed zijn als wiskunde in ons hoofd. Maar over het algemeen is het automatiseren van berekeningen netto goed geweest voor onze algehele intelligentie. Maar veel mensen zijn geschokt door het vooruitzicht van outsourcing denken naar deze platforms.
Ik denk veel aan het rekenvoorbeeld. Er is een verschil tussen vertrouwen op een rekenmachine om berekeningen uit te voeren (wat we allemaal doen) en niet begrijpen wat een breuk betekent. Je moet begrijpen wat een breuk betekent om gewoon met de wereld om te kunnen gaan. Ik denk dat dit het uitzoeken is dat moet gebeuren met grote taalmodellen.
Ik zag Gallup deden een enquête waarbij ze onder meer met studenten spraken over hun houding ten opzichte van AI. Ik was echt verrast toen ik ontdekte hoe bezorgd middelbare scholieren bijvoorbeeld zijn over AI. Een deel van hun angst is een gebrek aan duidelijkheid over wanneer ze het wel en niet op school kunnen gebruiken. Maar een deel van hun angst is ook hun bezorgdheid over hun kritische denkvermogen. Ik vind het geweldig dat ze voldoende kritisch denkvermogen hadden om zich daar zorgen over te maken.
Bestaat het risico dat een te grote focus op de AI-race met China ons ervan zal weerhouden om in de Verenigde Staten met betere regelgeving voor de technologie op de proppen te komen?
Dat argument wordt gebruikt om regulering te omzeilen. Maar ik denk dat we heel duidelijk moeten zijn dat wat er nu gebeurt, is dat elk land ter wereld zich haast om AI te gebruiken als instrument om een toekomst op te bouwen die hun waarden weerspiegelt.
Ik wil niet leven in een toekomst die wordt bepaald door de waarden van deze Chinese autoritaire regering. Als je kijkt naar hun mensenrechtenschendingen, de manier waarop ze AI hebben gebruikt om een diepgaande surveillancestaat te creëren. . . als je kijkt naar hun militaire agressie en het potentieel om AI op agressieve manieren te gebruiken in de militaire context. . . Dat is niet de wereld waarin de meeste mensen volgens mij willen leven.
Het is zeker niet een land dat lang gekoesterde Amerikaanse waarden weerspiegelt. Het is natuurlijk zeer zorgwekkend dat we zien dat sommige van deze tactieken hier door ons ministerie van Binnenlandse Veiligheid worden overgenomen. Dat is een enorme rode vlag over wat er gebeurt met deze autoritaire impuls in onze regering.
Maar nogmaals, de kernvraag is: hoe brengen we AI tot leven om mensen te dienen en om het soort toekomst op te bouwen dat de waarden weerspiegelt die we hebben – gericht op mensen en hun creativiteit en ons vermogen om voor onszelf een koers uit te stippelen, in plaats van dat te laten aansturen door een koning of een dictator? Dat is waar ik AI voor wil gebruiken.
Het valt mij op dat de regering-Biden en de regering-Trump allebei in ieder geval hebben gezegd dat ze zich echt zorgen maken over het gebruik van kunstmatige intelligentie door de overheid. Maar tegelijkertijd zegt u dat er zorgen zijn dat de federale overheid dit zal gebruiken om meer in de richting van autoritaire benaderingen te gaan.
Het gaat erom hoe je het gebruikt. In de regering-Biden heeft het ministerie van Binnenlandse Veiligheid de handen uit de mouwen gestoken en bijvoorbeeld het werk gedaan om daar gebruik van te maken gezichtsherkenning bij TSA PreCheck of voor Global Entry. Dit zijn plaatsen waar er een zeer nauw gedefinieerde functie is en je een nieuw camerabeeld vergelijkt met een database waarvoor je een legitieme reden hebt. En als u TSA PreCheck of Global Entry heeft doorlopen, kunt u zien hoe dat deze processen heeft versneld en veel beter heeft gemaakt door technologie op de juiste manier en respectvol te gebruiken.
Dit staat in schril contrast met de horrorverhalen van politiekorpsen in het hele land die kant-en-klare gezichtsherkenningstechnologie gebruikten die beweerde matches te maken op basis van korrelige video, bijvoorbeeld in een supermarkt die was opgehouden. Echt slecht, volkomen ongepast gebruik van gebrekkige gezichtsherkenningstechnologie leidde tot onrechtmatige arrestaties van zwarte mannen één zaak voor een misdrijf gepleegd in een staat waarin deze man nog nooit een voet had gezet. Dat is volkomen onaanvaardbaar.
Dus het verschil tussen het verstandig en gepast gebruiken van deze technologieën en met respect voor onze kernwaarden, en het vervolgens gewoon flagrant gebruiken zonder echt na te denken over wat het betekent voor de samenleving waarin we willen leven – dat is het hele verschil in de wereld.
Ik vraag me af wat je denkt van de opkomst van bedrijven als Anduril en Palantir die echt geïnteresseerd zijn in het verkopen van AI en geautomatiseerde platforms voor gebruik op het slagveld en voor defensiedoeleinden. Hoe moeten we daarover denken?
Ik wil uw vraag verbreden en zeggen dat het niet alleen op een slagveld speelt. Dit zijn technologieën die hier thuis tegen Amerikanen worden ingezet. Het is dus een ongelooflijk belangrijke vraag. En de kernvraagstukken zijn: hebben we democratische controle over hoe de technologie wordt gebruikt? Deze technologieën kunnen, indien misbruikt, de privacy van Amerikanen op gevaarlijke en gruwelijke manieren schenden.
Dat zien we nu bij sommige dingen die gebeuren. En dat is gewoon onaanvaardbaar. En de bedrijven hebben de neiging om het standpunt in te nemen van “Ik lever alleen de technologie.” Maar de implementaties die ze uitvoeren dragen bij aan dit werkelijk gevaarlijke misbruik. Dat is een voorbeeld van een verlies aan democratische controle over deze zeer krachtige nieuwe capaciteiten.
We horen veel over de AI-race. Ik denk aan de ruimterace. Er was een race om iemand de ruimte in te krijgen. Dan was er de race om iemand in een baan om de aarde te krijgen. En dan was er nog de race om iemand naar de maan te krijgen. En nu is het de bedoeling dat er mensen op de maan gaan wonen. Wanneer is de AI-race voorbij? Als we zeggen dat we de eerste moeten zijn in de AI-race, vraag ik me af: de eerste waarop?
Dat is het hele spel: eerst naar wat?
Waar ik aan blijf denken, en waar we volgens mij echt op moeten focussen, is wat AI kan doen voor de dingen die de levens van mensen fundamenteel veranderen. We organiseerden een conferentie genaamd ‘AI Aspirations’ in 2024, toen ik nog in het Witte Huis was, en we benadrukten zeven verschillende grote ambities voor AI. Ze varieerden van het dichten van onderwijskloven voor onze kinderen tot het sneller verkrijgen van betere medicijnen, tot betere weersvoorspellingen, tot nieuwe materialen voor de geavanceerde generaties halfgeleidertechnologie, tot het veranderen van de transportinfrastructuur, tot het veel veiliger maken ervan.
Op dit moment gaat het gesprek over AI eigenlijk alleen over LLM’s en misschien over beeldgeneratoren. Maar waar we het over hebben is de meer algemene kracht van het trainen van AI-modellen op zeer verschillende soorten gegevens. We leven in een wereld die rijk is aan data, dus het is niet alleen maar taal. Het zijn sensorgegevens, wetenschappelijke gegevens, administratieve gegevens, financiële gegevens. Het zijn al alle gegevens die u genereert wanneer u klikt of op internet navigeert.
Het andere belangrijke punt voor mij is dat dit niet zomaar zal gebeuren door bedrijven die producten op de markt brengen. Er is diepgaand onderzoek nodig. Er zijn datasets die nodig zijn om de weermodellen of de transportmodellen te bouwen die we nodig hebben. Dat zijn publieke verantwoordelijkheden. Uiteindelijk hebben we vooruitgang op regelgevingsgebied nodig, zodat we niet alleen dingen sneller kunnen uitvinden, maar ons regelgevingsproces kan bepalen wat veilig en effectief is, bijvoorbeeld voor medicijnen.
We bevinden ons op een punt waarop deze krachtige technologie losbarst. Er is geen belangrijker moment voor onze federale regering om op te treden. En in plaats daarvan trekt het zich terug van zoveel andere dingen die zullen bepalen wie echt slaagt bij AI.
