AI is inmiddels bij het ministerie van Financiën aangekomen.
Sam Corcoseen voormalige leider van startups en een dochteronderneming van het Department of Government Efficiency, die nu fungeert als Chief Information Officer bij het ministerie van Financiën, lijkt te hebben goedgekeurd om ten minste 1,5 miljoen dollar uit te geven aan tot 3.000 licenties voor ChatGPTblijkt uit het OpenAI-platform, dat blijkt uit federale uitgavengegevens. Het bureau heeft verplichtingen om 1,5 miljoen dollar uit te geven aan de diensten, en heeft al meer dan 500.000 dollar uitgegeven voor de technologie, zo blijkt uit deze gegevens.
Snel bedrijf heeft een gebruikersovereenkomst verkregen waaruit blijkt dat Treasury werknemers toestaat ChatGPT te gebruiken voor “geautoriseerde” missiedoeleinden. Dergelijke doeleinden omvatten onder meer het gebruik van de technologie, in bepaalde omstandigheden, met wat bekend staat als ‘gecontroleerde niet-geclassificeerde informatie’, een overheidsaanduiding die wordt gegeven aan informatie die niet geclassificeerd is, maar toch enige bescherming vereist. Het uitgebreide gebruik van de tool komt voort uit de groeiende druk op federale agentschappen om kunstmatige-intelligentiesystemen in te voeren, waarvan voorstanders zeggen dat ze de efficiëntie kunnen vergroten en de overtollige bureaucratie kunnen verminderen.
In dit geval omvatten de regels die in de gebruikersovereenkomst zijn vastgelegd sterke grenzen aan de manier waarop AI-systemen kunnen worden gebruikt, met name bijvoorbeeld met betrekking tot persoonlijk identificeerbare informatie, marktgevoelige economische informatie en federale belastinggegevens. De regels verbieden ook dat medewerkers van het ministerie van Financiën zonder uitdrukkelijke toestemming proberen de beveiligingsmaatregelen van een AI-chatbot te manipuleren of te omzeilen. Het is niet de bedoeling dat werknemers de output van een AI-systeem gebruiken zonder dat een mens dat werk beoordeelt, of de rol verdoezelen die AI speelt bij het maken van een bepaald product, volgens de gebruikersovereenkomst. Een overtreding van deze regels kan ertoe leiden dat iemand wordt ontslagen, zo staat in het akkoord.
Een voormalige ambtenaar van het ministerie van Financiën zei dat afdelingspersoneel de technologie waarschijnlijk gebruikt voor zwaar werk voor taken die normaal gesproken lang duren. Tony Arcadi, de functionaris die Sam Corcos verving, vertelt Snel bedrijf dat er talloze gebruiksscenario’s waren die baat zouden kunnen hebben bij de technologie, waaronder het automatiseren van administratief werk. “Als ze correct en met robuuste controles worden uitgevoerd, kunnen LLM’s een krachtvermenigvuldiger zijn voor inlichtingen, operaties, financiën, handhaving en publieke betrokkenheid”, zegt hij. Het agentschap had eerder geïnvesteerd in een kleinere cache van ChatGPT-licenties.
Het ministerie van Financiën en OpenAI hebben niet gereageerd op een verzoek om commentaar. Toch kwam het bureau in september een nalevingsplan uitgebracht gericht op het bevorderen van het gebruik van AI een strategie zijn benadering van de technologie uiteenzetten.
Te midden van de beweging om het gebruik van AI door de hele regering te versnellen, inclusief het nieuwe leger GenAI.mil-toolbestaat nog steeds het ernstige risico dat overheidsfunctionarissen te veel vertrouwen stellen in de verre van foutloze technologie.
Het lijkt er bijvoorbeeld op dat er een recent rapport van het ministerie van Volksgezondheid en Human Services is gemaakt met behulp van kunstmatige intelligentie – en bevatte valse citaten. Federale griffiers hebben ChatGPT en Perplexity gebruikt en zijn er uiteindelijk ook in geslaagd verkeerde aanhalingstekens en andere fouten in documenten.
