De Amerikaanse leger ontwikkelt AI-modellen die zijn getraind op gegevens van echte missies, met als doel een chatbot specifiek voor soldaten in te zetten.
“We hebben al deze lessen geleerd uit missies als de oorlog tussen Oekraïne en Rusland en Operatie Epic Fury”, zegt Alex Miller, hoofd technologie van het leger, in een interview met WIRED. “Er is enorm veel kennis beschikbaar.”
Miller liet WIRED een prototype zien van het systeem, Victor genaamd, dat een Reddit-achtig forum combineert met een chatbot genaamd VictorBot om troepen te helpen nuttige informatie te verzamelen, zoals de beste manier om elektromagnetische oorlogsvoeringsystemen voor een bepaalde missie te configureren. Wanneer een soldaat vraagt hoe hij zijn hardware moet instellen, genereert VictorBot een antwoord en verwijst hij naar relevante berichten en opmerkingen van andere serviceleden. “Elektromagnetische oorlogvoering is zo’n moeilijk onderwerp”, zegt Miller. Victor, voegt hij eraan toe, “kan een reactie genereren en alle lessen aanhalen die zijn geleerd van (verschillende) eenheden.”
Het Pentagon heeft de afgelopen twee jaar zijn inspanningen opgevoerd om AI in militaire systemen te integreren, maar Victor is een zeldzaam voorbeeld van hoe het leger AI op zichzelf bouwt. Het project laat zien hoe graag het Amerikaanse leger de basisprincipes van AI onder de knie wil krijgen – en hoe de technologie klaar kan zijn om het dagelijks leven van veel troepen te transformeren.
Miller zegt dat het leger samenwerkt met een externe leverancier die de AI-modellen die Victor aandrijven, zal beheren en verfijnen. Hij weigerde de naam van het specifieke bedrijf te noemen, omdat het contract nog niet is aangekondigd. Hij zegt dat er meer dan 500 gegevensopslagplaatsen in het systeem zijn ingevoerd, en merkt op dat Victor zal proberen de kans op fouten te verkleinen op een vergelijkbare manier als commerciële chatbots, door feitelijke bronnen te citeren.
De inspanningen om AI in militaire systemen te integreren zijn versneld na de introductie van ChatGPT in 2022. Meer recentelijk zijn Antropisch’s technologie speelde naar verluidt een prominente rol rol bij de planning van operaties in Iran via een systeem dat wordt aangedreven door Palantir.
Naarmate deze systemen capabeler zijn geworden, zijn er echter meningsverschillen ontstaan over de manier waarop AI moet worden ingezet. Eerder dit jaar, Anthropic ging de strijd aan met het Pentagonmet het argument dat de technologie ervan niet mag worden gebruikt om autonome wapens aan te drijven of Amerikaanse burgers in de gaten te houden.
Dezelfde fouten
Victor wordt ontwikkeld binnen het Combined Arms Command (CAC). Luitenant-kolonel Jon Nielsen, die toezicht houdt op het werk van de CAC aan Victor, zegt dat het niet ongebruikelijk is dat verschillende brigades dezelfde fouten maken tijdens verschillende missies. Het doel van Victor, zo voegt hij eraan toe, is om het systeem uiteindelijk multimodaal te maken, zodat soldaten beelden of video kunnen invoeren en inzichten kunnen krijgen. “Victor zal een van de weinige bronnen zijn met toegang tot gezaghebbende legerinformatie”, zegt Nielsen.
Lauren Kahn, senior onderzoeksanalist bij Georgetown’s Center for Security and Emerging Technology en voormalig beleidsadviseur voor het Pentagon, zegt dat project Victor de potentie benadrukt voor AI om veel niet-sexy backoffice-taken binnen het ministerie van Defensie te automatiseren. Eind vorig jaar introduceerde de afdeling GenAI.mil, een initiatief gericht op het stimuleren van een grotere adoptie van AI onder DOD-medewerkers.
Als Victor echter een succes blijkt te zijn, denkt Kahn dat het leger uiteindelijk een groot AI-bedrijf zou kunnen inhuren om de mogelijkheden van het systeem te verbeteren. “De grote laboratoria zullen duidelijk een comparatief voordeel hebben” als het gaat om het bouwen en inzetten van geavanceerde AI, zegt ze.
Intel-fouten
AI zou nieuwe soorten problemen voor legers kunnen introduceren, zegt Paul Scharre, uitvoerend president van het Center for New American Security en voormalig US Army Ranger. Scharre zegt dat de neiging van AI-modellen om sycophantisch te zijn bijzonder problematisch zou kunnen zijn. “Ik zou me situaties kunnen voorstellen waarin dat bijzonder zorgwekkend zou zijn in een context van inlichtingenanalyse”, legt hij uit.
Scharre voegt eraan toe dat de adoptie van AI ingewikkelder kan worden naarmate systemen evolueren van chatbots naar agenten die software en computernetwerken kunnen gebruiken. “Agentic AI brengt een geheel nieuwe reeks uitdagingen op het gebied van beveiliging met zich mee”, merkt hij op.
