Google vertelde werknemers dat het er vertrouwen in had dat zijn werk met het Ministerie van Defensie in lijn was met de AI-principes van het bedrijf – en dat het “meer neigde” naar het veiligstellen van nationale veiligheidswerkzaamheden met overheden, zo heeft Business Insider vernomen.
In een Google DeepMind gemeentehuis in januari, leiders, waaronder CEO Demis Hassabis beantwoordde een vraag van medewerkers die vroegen hoe Google ervoor zorgde dat zijn partnerschappen met het ministerie van Defensie en Boston Dynamics het AI-beleid van het bedrijf niet schendden.
Tom Lue, VP Global Affairs van Google DeepMind, zei dat het bedrijf een ‘robuust proces’ heeft ingevoerd om details rond beoogde gebruiksscenario’s te beoordelen en of partners bescherming hebben voor veiligheid, verantwoordelijkheid en privacy, volgens een opname van de bijeenkomst beoordeeld door Business Insider.
Lue herinnerde het personeel eraan dat het bedrijf zijn AI-principes in 2025 had bijgewerkt. Die verandering een eerdere toezegging verwijderd de technologie van Google niet te gebruiken om wapens te ontwikkelen of voor surveillancedoeleinden.
“De noordster voor de analyse is of de voordelen substantieel groter zijn dan de risico’s,” zei Lue.
De rol van de technologie-industrie in oorlogvoering en surveillance is de afgelopen weken een hot topic geworden, na een vete tussen Anthropic en het ministerie van Defensie. Anthropic trok rode lijnen over hoe zijn AI zou kunnen worden gebruikt bij oorlogvoering en surveillance, wat ertoe leidde dat het Pentagon de startup bestempelde als een “toeleveringsketenrisico.” Anthropic heeft later een aanvraag ingediend rechtszaak tegen de DoD omdat het feitelijk op de zwarte lijst staat.
Tegelijkertijd worden technologiebedrijven als Google en Amazon – waarvan sommige er ooit resoluut tegen waren zich in oorlogszaken te mengen – steeds meer strijden om lucratieve defensiecontracten.
In het gemeentehuis van januari, dat dateerde van vóór de confrontatie tussen Anthropic en het Ministerie van Defensie, zei Lue dat werknemers meer van dit soort deals mogen verwachten.
“Ik wil ook vermelden dat dit een gebied is waar we ons meer op gaan richten. We praten met regeringen over hun zorgen over de nationale veiligheid”, zei Lue tegen de medewerkers.
Hij zei dat het bedrijf gesprekken voerde over cyberveiligheids- en bioveiligheidsrisico’s.
Een woordvoerder van Google DeepMind werd benaderd voor commentaar en wees Business Insider erop een blogpost vorige week gepubliceerd waarin de details van het meest recente Pentagon-contract van Google worden beschreven. Er wordt uitgelegd dat de tool wordt gebruikt voor taken zoals het opstellen van documenten en projectplanning.
Google herbouwt zijn Pentagon-relatie
Hassabi’s, die ooit had gevreesd hoe Google de technologie van DeepMind zou kunnen gebruiken voor oorlogsvoering, vertelde het personeel van hetzelfde gemeentehuis dat hij zich “zeer op zijn gemak” voelde met de balans die Google vond.
“Het is duidelijk een zeer gecompliceerde wereld, zoals we allemaal kunnen zien, maar ik denk dat het onze plicht is om met democratisch gekozen regeringen samen te werken en de unieke capaciteiten te bieden waarin we van wereldklasse zijn, om de wereld veiliger te maken en een voordeel voor de wereld te zijn”, zei hij.
Google heeft vorig jaar opnieuw contact opgenomen met het Pentagon en contracten veiliggesteld voor zijn AI- en cloudproducten nadat het in 2018 was weggelopen van een militaire deal te midden van een werknemersopstand. Deze maand heeft het een contract binnengehaald om AI-agenten in te zetten op de niet-geclassificeerde netwerken van het departement.
Bedrijfsleiders hebben gezegd dat deze deals betrekking hebben op het gebruik van AI voor grotendeels administratief werk en geen rol spelen bij het identificeren, volgen en treffen van doelen. Tijdens de bijeenkomst zei Lue dat het Pentagon-contract taken omvatte zoals het samenvatten van informatie, het extraheren van tekst uit contracten en andere ‘backoffice-achtige operaties’.
Werknemers hebben hun bezorgdheid geuit dat Google mogelijk geen volledige controle heeft over hoe zijn partners de technologie uiteindelijk gebruiken, zoals de AI-tools die het aan de Israëlische overheid levert. Afgelopen maand hebben medewerkers van Google en OpenAI een open brief ondertekend roepen hun bedrijven op om niet toe te staan dat hun technologie wordt gebruikt voor autonome moorden of massasurveillance.
Een klokkenluidersklacht ingediend bij de SEC beweerde dat Google in 2024 zijn eigen beleid had geschonden door een Israëlische drone-contractant te helpen bij het analyseren van beelden. De Washingtonpost eerder gemeld. Een Google-woordvoerder vertelde de Post dat het gebruik van zijn AI-diensten in dat geval te klein was om ‘zinvol’ te zijn.
Het zijn niet alleen overheidscontracten waar sommige Googlers zich zorgen over maken. Google DeepMind zei in januari dat het samenwerkte met Boston Dynamics om Gemini in een van zijn robots te integreren.
“Boston Dynamics was heel duidelijk in de bewoordingen dat deze technologieën niet kunnen worden gebruikt voor bewapeningsdoeleinden. We hebben een zeer robuust proces geïmplementeerd”, zei Lue tijdens het gemeentehuis.
Heeft u iets te delen? Neem contact op met deze verslaggever via e-mail op hlangley@businessinsider.com of Signaal op 628-228-1836. Gebruik een persoonlijk e-mailadres en een niet-werkapparaat; hier is onze gids voor het veilig delen van informatie.
