Wat veel sollicitanten zich misschien niet realiseren is dat tegenwoordig de eerste hindernis bij het solliciteren naar een baan de omgang met AI is. Kandidaten moeten vaak een kunstmatige intelligentie systeem dat hun cv’s screent, in stilte bepaalt wie doorstroomt en hun sollicitaties in een la of spammap opbergt, om nooit het daglicht te zien.
Nu een nieuwe rechtszaak die dinsdag werd ingediend, is de eerste in de VS die een AI beschuldigt inhuren bedrijf de Fair Credit Reporting Act heeft overtreden. Eightfold AI, een door durfkapitaal ondersteund AI-wervingsplatform, wordt door twee werknemers in Californië aangeklaagd wegens het naar verluidt opstellen van rapporten die worden gebruikt om sollicitanten te screenen zonder hun medeweten, toestemming of enige mogelijkheid om fouten te corrigeren.
“Ik heb op honderden banen gesolliciteerd, maar het voelt alsof een onzichtbare kracht mij ervan weerhoudt om eerlijk in aanmerking te worden genomen”, zegt Erin Kistler, een van de aanklagers, in een persbericht. Volgens de klacht solliciteerden beide aanklagers op functies bij verschillende bedrijven die Eightfold AI gebruiken, waaronder PayPal en Microsoft.
Van de duizenden banen die ze het afgelopen jaar heeft gezocht, heeft slechts 0,3% van haar sollicitaties geleid tot een vervolgonderzoek of sollicitatiegesprek, zegt Kistler. verteld De New York Times. “Het is ontmoedigend en ik weet dat ik niet de enige ben die zich zo voelt.”
Achtvoudig AI-algoritme doorzoekt carrièresites, vacaturesites en cv-databases om een dataset te creëren van “1 miljoen functietitels, 1 miljoen vaardigheden en de profielen van meer dan 1 miljard mensen die in elke baan, beroep, branche en geografie werken”, aldus de website van het bedrijf – waarvan een groot deel “onnauwkeurig, onvolledig of ontleend is aan onbekende bronnen van derden”, beweert de klacht.
Met behulp van een AI-model dat op die gegevens is getraind, zeggen de eisers dat Eightfold AI sollicitaties scoort op een schaal van 1 tot 5, gebaseerd op de vaardigheden, ervaring en de doelstellingen van de rekruteringsmanager. Deze door AI gegenereerde evaluaties functioneren als “consumentenrapporten onder de federale Fair Credit Reporting Act (FCRA) en de Californische wet”, beweert de rechtszaak.
In tegenstelling tot kredietrapporten (een soort consumentenrapport dat de FCRA reguleert om nauwkeurigheid en eerlijkheid te garanderen), krijgen aanvragers geen feedback over hun scores of hoe de beoordeling is gegenereerd, en zijn ze zich er zelden van bewust dat een algoritme ze überhaupt heeft beoordeeld. Als de tool fouten maakt, hebben kandidaten geen mogelijkheid om deze te corrigeren.
Hierdoor ontstaat een ‘black box’-situatie waarin we kunnen zien wat er in een AI-systeem gaat en wat er uit komt. Maar de redenering daartussenin blijft verborgen of onbegrijpelijk voor mensen of voor de werkgevers die op de scores vertrouwen wanneer ze potentiële aanwervingen overwegen. Deze ondoorzichtigheid is verontrustend in een tijd waarin steeds meer bedrijven dat doen vertrouwen op AI voor het aannemen van personeel en kandidatenscreening.
Dat zegt een woordvoerder van Eightfold AI Snel bedrijf dat “deze karakterisering van onze producten feitelijk onjuist is. Eightfold biedt technologie die bedrijven gebruiken om hun talentprocessen te beheren en met kandidaten in contact te komen. Eightfold ‘op de loer’ of schraapt persoonlijke webgeschiedenis, sociale media en dergelijke niet om geheime dossiers op te bouwen. Het platform van Eightfold werkt op gegevens die door kandidaten aan onze klanten worden verstrekt of door onze klanten worden verstrekt.
“We gebruiken informatie zoals vaardigheden, ervaring en opleiding die sollicitanten aan onze klanten willen verstrekken, en gegevens die door onze klanten onder contract zijn geautoriseerd.” De woordvoerder van het bedrijf wees ook op Eightfold’s blauwdruk voor meer informatie over de specifieke gegevenspraktijken.
De aanklagers eisen intussen niet dat AI wordt geëlimineerd bij personeelswerving. In plaats daarvan vragen ze dat AI-bedrijven aan dezelfde normen moeten voldoen als anderen.
“Het feit dat dit bedrijf een mooi klinkende AI-technologie gebruikt en wordt ondersteund door durfkapitaal, plaatst het nog niet boven de wet”, zegt David Seligman, uitvoerend directeur van Towards Justice, een van de advocatenkantoren die de eisers in de class action-rechtszaak vertegenwoordigt, in het persbericht. “Dit is niet het Wilde Westen.”
Maar naarmate AI steeds meer doordringt bij het aannemen van personeel, kunnen juridische conflicten als deze steeds vaker voorkomen.
