Vrouwen zijn lange tijd buiten beschouwing gelaten in de datasets en in de beslissingen die alles vormgeven, van autoveiligheid tot medische diagnoses. Marktleiders waarschuwen dat een overhaaste aanpak van kunstmatige intelligentie het risico inhoudt dat deze patronen zich herhalen.
Dat was de centrale boodschap van deze week Vrouwen in Tech Regatta in Seattle, waar sprekers aandrongen op eerdere en bredere deelname aan de ontwikkeling van AI naarmate de adoptie versnelt.
“Uitsluiting neemt in de loop van de tijd toe en wordt veel moeilijker te detecteren,” Moeder Edelsteinmanager leerervaringen in Seattle Hoge plekzei woensdag tijdens een AI-leiderschapspanel. “Als er in de kamer geen rekening wordt gehouden met jouw perspectief wanneer die beslissingen in eerste instantie worden genomen, is het moeilijker om later een verandering door te voeren.”
De afgelopen jaren hebben onderzoekers geprobeerd de tekortkomingen te verzachten van modellen voor machinaal leren die zijn getraind op bevooroordeelde of scheve datasets, waaronder verkeerde diagnose van nierfalen bij vrouwen. Intussen zijn vrouwen wereldwijd dat wel ongeveer 20% minder waarschijnlijk dan mannen om zich met AI-hulpmiddelen bezig te houden, waardoor de ongelijkheid in opleiding wordt vergroot.
Op technologisch gebied lijkt de genderkloof op het gebied van AI kleiner te worden. Het is een opmerkelijke verschuiving nu bedrijven zich haasten naar automatisering op grote schaal, en zorgen over desinformatie en gegevensbeveiliging rond Anthropic en OpenAI wervelen. publiek gaan.
Vrouwen leiden de AI-strategie – met de nodige voorzichtigheid
De meeste vrouwen in hogere functies (80%) zijn de drijvende kracht achter de AI-strategie op de werkvloer Geef prioriteit aan verantwoorde adoptie boven snelheidDat blijkt uit een peiling onder meer dan 1.700 leiders uit de sector die eerder deze maand werd gepubliceerd door Chief, een op vrouwen gericht leiderschapsnetwerk.
Dit staat vaak in contrast met de druk van bedrijven om AI-tools en -strategieën in een steeds sneller tempo in te zetten Maria Martin, productmanagementdirecteur bij Nordstrom.
“Er zit minder tijd tussen het nemen van een beslissing en het opschalen van een beslissing”, zei Martin woensdag in het panel. “Het is belangrijk om vooruit te komen en er vroeg bij te zijn.”
Van de groep vrouwelijke ondervraagde Chiefs was 71% de eerste bij hun bedrijf die AI-risico’s signaleerde.
‘Als dat niet zo is doelbewust interventies creëren bij elke stap onderweg,” zei Edelstein, “kan vooringenomenheid binnensluipen.”
Vrouwen in de kamer krijgen
Het probleem met het betrekken van gekwalificeerde vrouwen in AI-leiderschap en besluitvormingsruimtes kan beginnen met het aannemen van personeel. Minstens tweederde van de recruiters gebruikt AI om kandidaten te screenen, een proces waarvan is aangetoond dat het ras- en gendervooroordelen reproduceert, vaak intersectioneel.
In 2024 ontdekten onderzoekers van de Universiteit van Washington dat AI-cv-screeners kiezen mannelijke namen 89% van de tijd meer dan vrouwelijk, en 85% van de tijd met wit geassocieerde namen boven met zwart geassocieerde namen. Een jaar later ontdekte UW dat HR-managers weerspiegelen de vooroordelen van hun AI-model.
Vrouwen en gekleurde mensen worden geconfronteerd met druk om zich te assimileren en van code te wisselen – zoals het gebruik van een ras- en genderneutrale naam op een cv – voordat ze zelfs maar het kantoor betreden. Als ze eenmaal zijn aangenomen, gaat het erom de juiste mensen te vinden voor ondersteuning, zei hij Cynthia Teeeen oude technisch leider en computerwetenschapper.
Tee suggereert dat meer marktleiders een sponsormodel kunnen implementeren, dat een grotere intentie, tastbare risico’s en kosten vereist in vergelijking met typische bondgenoten op de werkplek.
“Blijf aandringen op het promoten van mensen die het verdienen”, zei Tee tijdens een panel over het navigeren door de dynamiek op de werkplek. “Blijf meer diverse mensen binnenhalen via uw wervingspijplijnen. Blijf mensen naar voren brengen wier stem niet wordt gehoord.”
Het AI-gesprek is voor iedereen
Er kan een vertrouwensbarrière bestaan voor het begrijpen of gebruiken van AI, deels als gevolg van het ‘black box’-ontwerp van de sector. Nandita KrishnanA datawetenschapper bij Adobe die daarnaast apps bouwt, stelt voor om elke week tijd vrij te maken om het laatste nieuws te lezen en te experimenteren met het automatiseren van dagelijkse taken.
‘Als je dat bent Vibe-codering“Doe het op een manier die ervoor zorgt dat de software nog steeds veilig is”, zei ze in het panel met Edelstein en Martin. “Als je AI-systemen aan het uitbouwen bent, is het zeer gevoelig voor hallucinaties. Voeg iets toe om de LLM’s te onderbouwen, en geef uw agent dit feit of deze database met kennis om ervoor te zorgen dat deze niet ontspoort.
Deelname aan AI-besluitvorming beperkt zich niet tot technische expertise. Edelstein stelt voor waarden rond AI vast te stellen – inclusief onderwijs, gezondheidszorg en het milieu – en marktleiders of bedrijven te vinden die zich willen aansluiten.
Veel werknemers leren AI uit angst om achter te blijven, voegde ze eraan toe, maar nieuwsgierigheid leidt tot betere resultaten.
“Als we veel van de percepties rond AI kunnen veranderen,” zei ze, “is dat de eerste stap om meer mensen bij het gesprek te betrekken.”
