Zoals velen Silicon Valley bedrijven vandaag de dag, Scout-AI traint groot AI modellen en agenten om klusjes te automatiseren. Het grote verschil is dat in plaats van code te schrijven, e-mails te beantwoorden of dingen online te kopen, de agenten van Scout AI zijn ontworpen om dingen in de fysieke wereld te zoeken en te vernietigen met exploderende drones.
Tijdens een recente demonstratie, gehouden op een geheime militaire basis in centraal Californië, kreeg de technologie van Scout AI de leiding over een zelfrijdend terreinvoertuig en een paar dodelijke drones. De agenten gebruikten deze systemen om een vrachtwagen te vinden die zich in het gebied verstopte, en bliezen deze vervolgens aan stukken met een explosieve lading.
“We moeten de volgende generatie AI naar het leger brengen”, vertelde Colby Adcock, CEO van Scout AI, mij onlangs in een interview. (Adcocks broer, Brett Adcock, is de CEO van Figure AI, een startup die werkt aan humanoïde robots). “We nemen een hyperscaler-fundamentmodel en trainen het om van een algemene chatbot of agentassistent te veranderen in een oorlogsvechter.”
Het bedrijf van Adcock maakt deel uit van een nieuwe generatie startups die racen om technologie uit grote AI-laboratoria aan te passen voor het slagveld. Veel beleidsmakers zijn van mening dat het benutten van AI een grote uitdaging is zal de sleutel zijn tot toekomstige militaire dominantie. Het gevechtspotentieel van AI is een van de redenen waarom de Amerikaanse regering dat heeft gedaan geprobeerd de verkoop te beperken van geavanceerde AI-chips en apparatuur voor het maken van chips naar China, hoewel de regering-Trump onlangs heeft gedaan ervoor gekozen om die controles te versoepelen.
“Het is goed voor startups op het gebied van defensietechnologie om de grenzen te verleggen met AI-integratie”, zegt Michael Horowitz, een professor aan de Universiteit van Pennsylvania die eerder in het Pentagon diende als plaatsvervangend adjunct-secretaris van defensie voor strijdkrachtontwikkeling en opkomende capaciteiten. “Dat is precies wat ze zouden moeten doen als de VS het voortouw willen nemen bij de militaire adoptie van AI.”
Horowitz merkt echter ook op dat het benutten van de nieuwste AI-ontwikkelingen in de praktijk bijzonder moeilijk kan blijken.
Grote taalmodellen zijn inherent onvoorspelbaar en AI-agenten, zoals degenen die het populaire beheersen AI-assistent OpenClaw—kan zich misdragen wanneer ze zelfs relatief goedaardige taken krijgen, zoals het online bestellen van goederen. Horowitz zegt dat het vooral moeilijk kan zijn om aan te tonen dat dergelijke systemen robuust zijn vanuit het oogpunt van cyberveiligheid – iets dat nodig zou zijn voor wijdverbreid militair gebruik.
De recente demo van Scout AI omvatte verschillende stappen waarbij AI de vrije hand had over gevechtssystemen.
Aan het begin van de missie werd het volgende commando ingevoerd in een Scout AI-systeem dat bekend staat als Fury Orchestrator:
Een relatief groot AI-model met meer dan 100 miljard parameters, dat op een beveiligd cloudplatform of op een computer ter plaatse met luchtopeningen kan draaien, interpreteert de initiële opdracht. Scout AI gebruikt een niet bekendgemaakt open source-model waarvan de beperkingen zijn verwijderd. Dit model fungeert vervolgens als een agent en geeft opdrachten aan kleinere modellen met 10 miljard parameters die op de grondvoertuigen draaien en de drones die bij de oefening betrokken zijn. De kleinere modellen fungeren ook zelf als agenten en geven hun eigen opdrachten aan AI-systemen op een lager niveau die de bewegingen van de voertuigen controleren.
Enkele seconden nadat het marsorders had ontvangen, reed het grondvoertuig weg langs een onverharde weg die tussen struikgewas en bomen slingerde. Een paar minuten later kwam het voertuig tot stilstand en stuurde het tweetal drones weg, die naar het gebied vlogen waar het was geïnstrueerd dat het doelwit wachtte. Nadat hij de vrachtwagen had opgemerkt, gaf een AI-agent die op een van de drones reed een bevel om ernaar toe te vliegen en een explosieve lading tot ontploffing te brengen vlak voor de botsing.
