Onlangs Grok AI kreeg te maken met kritiek nadat gebruikers ontdekten dat het expliciete afbeeldingen van echte mensen creëerde, inclusief vrouwen en kinderen. Hoewel xAI er nu enkele heeft geïmplementeerd beperkingenbracht dit incident een ernstige zwakte aan het licht. Zonder waarborgen en uiteenlopende perspectieven lopen meisjes en vrouwen een groter risico. De gevaren die kunstmatige intelligentie voor vrouwen en meisjes met zich meebrengt, zijn reëel en gebeuren nu, en hebben gevolgen voor hun geestelijke gezondheid, veiligheid, gezondheidszorg en economische kansen.
Afgelopen herfst, een moeder ontdekt waarom de geestelijke gezondheid van haar tienerdochter verslechterde: het was het resultaat van gesprekken met een Character.AI-chatbot. Ze is niet de enige. Aura’s Rapport over de staat van de jeugdgepubliceerd in december, ontdekte dat ouders geloven dat technologie een negatiever effect heeft op de emoties van meisjes, waaronder stress, jaloezie en eenzaamheid: 51% vergeleken met 36% voor jongens. Dat is onaanvaardbaar en we moeten het beter doen.
De risico’s reiken verder dan de geestelijke gezondheid. OpenAI meldde onlangs dat meer dan 40 miljoen Amerikanen gezondheidsinformatie zoeken op ChatGPT dagelijks. Naarmate AI in de gezondheidszorg zich verder uitbreidt, kunnen de gevolgen van bevooroordeelde trainingsgegevens gevaarlijk zijn. AI-modellen die voornamelijk zijn getraind op gezondheidsgegevens van mannen, leveren slechtere resultaten op voor vrouwen. Een AI bijvoorbeeld model ontworpen om leverziekte op te sporen uit bloedonderzoeken miste 44% van de gevallen bij vrouwen, vergeleken met 23% bij mannen.
Ongelijk speelveld
Op de werkvloer zorgt AI niet voor een gelijk speelveld. Ondanks wetten die discriminatie verbieden, aangedreven door AI inhuren tools hebben herhaaldelijk aanleiding gegeven tot zorgen over vooringenomenheid, eerlijkheid en gegevensprivacy. A studie Uit een onderzoek van de Universiteit van Washington bleek dat bij AI-cv-screenings de technologie in slechts 11% van de gevallen de voorkeur gaf aan met vrouwen geassocieerde namen.
Deze mislukkingen weerspiegelen wie onze technologie bouwt. Vrouwen maken het gewoon goed 22% van de AI-werknemers. Wanneer systemen worden ontworpen zonder de perspectieven van vrouwen, repliceren ze bestaande ongelijkheden en introduceren ze nieuwe risico’s. Het patroon is duidelijk. AI laat meisjes en vrouwen in de steek.
Cruciaal moment
Dit kon niet op een cruciaal moment op de arbeidsmarkt gebeuren. Een kwart van de rollen op LinkedIn’s nieuwste lijst van de 25 snelst groeiende banen in de Verenigde Staten zijn technologiegerelateerd, met AI-ingenieurs aan de top. Beslissingen over hoe AI vandaag de dag wordt ontworpen, zullen de toegang tot banen, gezondheidszorg, onderwijs en het maatschappelijk leven decennialang bepalen. Het is van cruciaal belang dat vrouwen een actieve rol spelen bij de ontwikkeling van nieuwe AI-instrumenten, zodat ongelijkheid niet wordt ingebakken in de systemen die ons leven steeds meer beheersen.
Jonge vrouwen staan niet los van AI. Onderzoek vorig jaar uitgevoerd door Girls Who Code, in samenwerking met UCLA, bleek dat jonge vrouwen diep nadenken over de dubbele aard van technologie. Ze zien het potentieel ervan om de gezondheidszorg te bevorderen, de toegang tot onderwijs uit te breiden en de klimaatverandering aan te pakken. Ze zijn zich ook bewust van de gevaren ervan, zoals vooringenomenheid, toezicht en uitsluiting van ontwikkeling. Dit is geen blind optimisme. In plaats daarvan biedt het een perspectief dat vaak ontbreekt in de huidige AI-ontwikkeling.
Het creëren van technologie is een machtsuitoefening en brengt een grote verantwoordelijkheid met zich mee. Omdat meisjes vaak het meest getroffen worden door de mislukkingen van AI, moeten zij de kans krijgen om leiding te geven aan de oplossingen. Vrouwen houden van Girls Who Code-alumna Trisha Prabhu, die zich ontwikkelde Denk opnieuw naeen hulpmiddel tegen pesten, zijn hiervan een voorbeeld. Latanya Sweeney, erkend richtte als een van de topdenkers op het gebied van AI het Public Interest Tech Lab van Harvard op. Hun prestaties tonen het potentieel aan wanneer vrouwen leiding geven aan de technologische ontwikkeling.
Slimme stappen
Als we veiligere, meer verantwoorde AI-systemen willen, zijn drie stappen essentieel.
Ten eerste moet het computerwetenschappelijk onderwijs de sociale impact integreren. Coderen kan niet los van de gevolgen ervan worden onderwezen. Studenten moeten technische vaardigheden leren naast een kritische analyse van hoe technologie gemeenschappen en levens vormt. Deze aanpak levert resultaat op. Een student van Girls Who Code gebruikte de vaardigheden die ze had geleerd bijvoorbeeld om een app te maken met de naam AIFinTech om immigrantengezinnen te helpen hun persoonlijke financiën te beheren.
Ten tweede moeten vrouwen vertegenwoordigd zijn in de ontwikkeling en het bestuur van AI, vooral vrouwen uit historisch achtergestelde gemeenschappen. Ze hebben zitplaatsen nodig aan de tafels waar AI-systemen worden ontworpen, getest en gereguleerd. Dit betekent dat er moet worden gezorgd voor genderdiversiteit in de AI-ethiekraden en dat de AI-commissies van de overheid representatief zijn voor de demografische groepen die er het meest door worden getroffen.
Ten slotte moet de manier waarop we kunstmatige intelligentie evalueren, evolueren. Tegenwoordig wordt AI beoordeeld op efficiëntie, nauwkeurigheid en winstgevendheid. We moeten ook de gezondheid, gelijkheid en welzijn evalueren, vooral voor meisjes en jonge vrouwen. Voordat een AI-systeem wordt ingezet in een omgeving waar veel op het spel staat, zoals de gezondheidszorg, moet het worden verplicht tests op gendervooroordelen te doorstaan en aan te tonen dat het geen uiteenlopende resultaten oplevert. New York City vereist bijvoorbeeld dat werkgevers die geautomatiseerde instrumenten voor arbeidsbeslissingen gebruiken, jaarlijks een onafhankelijke bias-audit ondergaan.
We hoeven de tekortkomingen van AI niet standaard te accepteren. We zijn in realtime getuige van de impact van AI op meisjes, en we moeten de kans grijpen om van koers te veranderen terwijl de technologie nog vorm krijgt. Wanneer meisjes de kans krijgen om leiding te geven op het gebied van AI, zullen ze veiliger systemen bouwen, niet alleen voor zichzelf, maar voor iedereen.
