OpenAI-CEO Sam Altman zit deze week nog steeds op de eerste plaats nadat zijn bedrijf een deal heeft getekend met het Amerikaanse leger. Medewerkers van OpenAI hebben kritiek geuit op de stap, die volgde op de ongeveer $ 200 miljoen van Anthropic contract met het Pentagon implodeerdeen vroeg Altman om meer informatie over de overeenkomst vrij te geven. Altman gaf toe dat het er “slordig” uitzag op sociale media na.
Hoewel dit incident een belangrijk nieuwsverhaal is geworden, is het misschien wel het nieuwste en meest publieke voorbeeld van OpenAI die een vaag beleid creëert over hoe het Amerikaanse leger toegang kan krijgen tot zijn AI.
In 2023 verbood het gebruiksbeleid van OpenAI het leger expliciet de toegang tot zijn AI-modellen. Maar sommige OpenAI-medewerkers ontdekten dat het Pentagon al was begonnen te experimenteren met Azure OpenAI, een versie van de OpenAI-modellen aangeboden door Microsoft, aldus twee bronnen die bekend zijn met de zaak. Microsoft had destijds al tientallen jaren contracten met het ministerie van Defensie. Het was ook de grootste investeerder van OpenAI en beschikte over een ruime licentie om de technologie van de startup te commercialiseren.
Datzelfde jaar zagen medewerkers van OpenAI Pentagon-functionarissen door de kantoren van het bedrijf in San Francisco lopen, aldus de bronnen. Ze spraken op voorwaarde van anonimiteit, omdat ze geen toestemming hebben om commentaar te geven op zaken van particuliere bedrijven.
Sommige medewerkers van OpenAI waren huiverig om zich met het Pentagon te associëren, terwijl anderen simpelweg niet wisten wat het gebruiksbeleid van OpenAI inhield. Was het beleid van toepassing op Microsoft? Hoewel bronnen aan WIRED vertellen dat dit destijds voor de meeste werknemers niet duidelijk was, zeggen woordvoerders van OpenAI en Microsoft dat Azure OpenAI-producten niet onder het beleid van OpenAI vallen en dat ook niet waren.
“Microsoft heeft een product genaamd de Azure OpenAI Service dat in 2023 beschikbaar kwam voor de Amerikaanse overheid en waarop de servicevoorwaarden van Microsoft van toepassing zijn”, zegt woordvoerder Frank Shaw in een verklaring aan WIRED. Microsoft weigerde specifiek commentaar te geven op het moment waarop het Azure OpenAI beschikbaar maakte voor het Pentagon, maar merkt op dat de service niet is goedgekeurd voor “topgeheim”werklast voor de overheid tot 2025.
“AI speelt al een belangrijke rol in de nationale veiligheid en wij vinden het belangrijk om aan tafel te zitten om ervoor te zorgen dat het veilig en verantwoord wordt ingezet”, zei OpenAI-woordvoerder Liz Bourgeois in een verklaring. “We zijn transparant geweest tegenover onze medewerkers bij de aanpak van dit werk, door regelmatig updates en speciale kanalen te bieden waar teams vragen kunnen stellen en rechtstreeks contact kunnen opnemen met ons nationale veiligheidsteam.”
Het ministerie van Defensie heeft niet gereageerd op het verzoek van WIRED om commentaar.
In januari 2024 heeft OpenAI zijn beleid bijgewerkt om het algemene verbod op militair gebruik op te heffen. Verschillende medewerkers van OpenAI kwamen op de hoogte van de beleidsupdate via een artikel in The Intercept, zeggen bronnen. De leiders van het bedrijf spraken later over de verandering tijdens een bijeenkomst van alle handen, waarbij ze uitlegden hoe het bedrijf in de toekomst voorzichtig te werk zou gaan op dit gebied.
In december 2024 kondigde OpenAI een partnerschap aan met Anduril om AI-systemen te ontwikkelen en in te zetten voor ‘nationale veiligheidsmissies’. Voorafgaand aan de aankondiging vertelde OpenAI de werknemers dat het partnerschap een beperkte reikwijdte had en alleen niet-geclassificeerde werklasten zou aanpakken, aldus dezelfde bronnen. Dit stond in contrast met een deal die Anthropic had getekend met Palantir, waarbij de AI van Anthropic zou worden gebruikt voor geheim militair werk.
Palantir benaderde OpenAI in het najaar van 2024 om deelname aan hun ‘FedStart’-programma te bespreken, bevestigde een woordvoerder van OpenAI tegenover WIRED. Het bedrijf wees het uiteindelijk af en vertelde de werknemers dat het een te hoog risico zou zijn geweest, vertellen twee bronnen die bekend zijn met de zaak aan WIRED. OpenAI werkt nu echter op andere manieren met Palantir.
Rond de tijd dat de Anduril-deal werd aangekondigd, sloten enkele tientallen OpenAI-werknemers zich aan bij een openbaar Slack-kanaal om hun zorgen over de militaire partnerschappen van het bedrijf te bespreken, zeggen bronnen en een woordvoerder bevestigde dit. Sommigen waren van mening dat de modellen van het bedrijf te onbetrouwbaar waren om de creditcardgegevens van een gebruiker te verwerken, laat staan Amerikanen op het slagveld te helpen.
