Caitlin Kalinowski, een OpenAI-medewerker die toezicht hield op de hardware binnen de robotica-divisie, verlaat het bedrijf. De beslissing van Kalinowski kwam kort na die van OpenAI deal met het Pentagon werd aangekondigd eind februari.
In een posten op sociale mediaKalinowski legde uit dat de beslissing ging over het “principe” met betrekking tot de recente deal. “Ik geef veel om het Robotics-team en het werk dat we samen hebben opgebouwd. Dit was geen gemakkelijke opgave”, schreef Kalinowski. “AI speelt een belangrijke rol in de nationale veiligheid. Maar het toezicht op Amerikanen zonder gerechtelijk toezicht en dodelijke autonomie zonder menselijke toestemming zijn lijnen die meer overleg verdienden dan ze kregen.”
De deal van OpenAI met het Pentagon kwam tot stand nadat een soortgelijke deal met Anthropic mislukte. Anthropic weigerde zijn product daarvoor te laten gebruiken binnenlandse massasurveillance en autonome wapensystemen zonder goed toezicht.
Nadat Anthropic een deal met het Pentagon had geweigerd, verklaarde het Pentagon het bedrijf een “toeleveringsketenrisico” en dreigde het bedrijf te straffen, waarvan de CEO van Anthropic, Dario Amodei, zei dat hij voor de rechtbank zou vechten. Nadat de deal met het Pentagon niet doorging, stapte Claude, de chatbot van Anthropic, over Nummer 1 in de ranglijst van gratis apps in de Apple App Store.
Andere AI-stafmedewerkers, van zowel OpenAI als Google, steunen ook het besluit van Anthropic om ook geen deal met het Pentagon te sluiten. Een online open brief en petitie getiteld “We Will Not Be Divided” spoorde AI-leiders aan om weerstand te bieden aan de eisen van het Ministerie van Oorlog. Momenteel heeft de petitie bijna 1.000 handtekeningen van medewerkers van beide bedrijven. Er stond: “Ze proberen elk bedrijf te verdelen, uit angst dat het andere zal toegeven.”
De petitie vervolgde: “We hopen dat onze leiders hun meningsverschillen opzij zullen zetten en samen zullen blijven doorgaan met het weigeren van de huidige eisen van het Ministerie van Oorlog om toestemming om onze modellen te gebruiken voor binnenlandse massabewaking en het autonoom doden van mensen zonder menselijk toezicht.”
Ongeacht de oppositie houdt OpenAI vast aan de deal, terwijl het zegt dat deze er ook in zit extra waarborgen daarin. Dat laat een woordvoerder van het bedrijf weten Snel bedrijf in een e-mail, “Wij geloven dat onze overeenkomst met het Pentagon een werkbaar pad creëert voor verantwoord gebruik van AI in de nationale veiligheid, terwijl we tegelijkertijd onze rode lijnen duidelijk maken: geen binnenlands toezicht en geen autonome wapens.”
De verklaring vervolgde: “We erkennen dat mensen een uitgesproken mening hebben over deze kwesties en we zullen de discussie blijven aangaan met werknemers, de overheid, het maatschappelijk middenveld en gemeenschappen over de hele wereld.” De woordvoerder voegde eraan toe dat het bedrijf niet van plan is Kalinowski te vervangen.
Toch voorspellen sommige deskundigen dat dit soort ontslagen waarschijnlijk zullen blijven bestaan. AI-governanceleider Zahra Timsah, PhD, CEO van i-GENTIC AI, vertelt Snel bedrijf“Mensen moeten niet verbaasd zijn dat sommige AI-onderzoekers zich ongemakkelijk voelen bij militaire partnerschappen.” Timsah zegt dat dit vooral waar is, aangezien “Velen van hen het veld zijn betreden omdat ze veel waarde hechten aan veiligheid en maatschappelijke impact, dus wanneer AI zich in defensie- of surveillancecontexten begeeft, wordt het voor velen in het veld een persoonlijke lijn”.
Toch zegt Timsah dat we kunnen verwachten dat AI vooruitgang blijft boeken in termen van gebruik door de overheid. “De verantwoorde weg voorwaarts is niet doen alsof de technologie niet zal worden gebruikt, maar het opbouwen van een sterk bestuur rond de manier waarop deze wordt gebruikt.” Timsah voegt eraan toe dat deze vangrails eruit zouden kunnen zien als “gedefinieerde toegang, duidelijke autorisatielagen en volledige traceerbaarheid van wat AI-systemen doen en wie ze gebruikt.”
Wat Kalinowski betreft, de leider op het gebied van robotica is van plan haar werk in de industrie voort te zetten. “Ik neem wat tijd, maar ik blijf erg gefocust op het bouwen van verantwoorde fysieke AI”, zei ze antwoord op een vraag op haar bericht.
