Werknemers bij Meta Platforms kunnen al snel het gevoel krijgen dat ze TMI naar de MCI van hun werkgever overbrengen.
Het moederbedrijf van Facebook, Instagram en WhatsApp installeert nieuwe software – naar verluidt Model Capability Initiative (MCI) genoemd – op de computers en werkstations van haar medewerkers, die onder andere muisbewegingen en toetsaanslagen zal volgen en vastleggen in een poging om gebruikers te trainen AI modellen, Dat meldde Reuters voor het eerst op dinsdag.
Het maakt allemaal deel uit van een bredere inspanning om autonome AI-agenten te ontwikkelen die specifieke werktaken kunnen uitvoeren.
Een woordvoerder van Meta bevestigde dat het bedrijf inderdaad doorgaat met de maatregel.
“Als we agenten bouwen om mensen te helpen alledaagse taken uit te voeren met behulp van computers, hebben onze modellen echte voorbeelden nodig van hoe mensen ze daadwerkelijk gebruiken – zaken als muisbewegingen, klikken op knoppen en navigeren door vervolgkeuzemenu’s”, vertelt de woordvoerder. Snel bedrijf. “Om te helpen lanceren we een interne tool die dit soort input voor bepaalde applicaties vastlegt, zodat we onze modellen kunnen trainen.”
Met betrekking tot privacykwesties voegde Meta eraan toe: “Er zijn veiligheidsmaatregelen getroffen om gevoelige inhoud te beschermen, en de gegevens worden voor geen enkel ander doel gebruikt.”
Meta is ontslagen honderden medewerkers dit jaar, en die zijn er geruchten wervelen dat er nog meer zullen volgen. Het zou duizenden mensen kunnen ontslaan, grotendeels om de hogere AI-kosten te compenseren, en om ruimte te maken voor AI-agenten om een deel van het werk op zich te nemen dat oorspronkelijk door mensen werd gedaan.
Het zou niet ongekend zijn: een paar maanden geleden noemde Block Inc, het fintech-bedrijf van Jack Dorsey, AI-efficiënties als ontslagen 40% van zijn personeelsbestand.
Hoe laag kan het moreel gaan?
Het is begrijpelijk dat veel Meta-werknemers zich waarschijnlijk ongemakkelijk voelen, zowel over het vooruitzicht hun baan te verliezen als over het feit dat het bedrijf elke gedetailleerde beweging die ze op hun computers maken, zal volgen.
Helaas zeggen experts dat ze er niet veel aan kunnen doen.
“In de VS is de aanpak van Meta grotendeels toegestaan, maar deze bevindt zich in een juridisch gevoelig gebied”, zegt Natalie Bidnick Andreas, assistent-professor bij de afdeling Communicatiewetenschappen van de Universiteit van Texas. “De federale wetgeving biedt heel weinig bescherming voor de privacy van werknemers, dus er bestaat geen landelijke regel die het monitoren van toetsaanslagen of muisbewegingen op bedrijfsapparaten duidelijk verbiedt.”
Dergelijke praktijken passen meestal binnen de wettelijke grenzen, op voorwaarde dat ze beperkt blijven tot de eigen hardware en werkaccounts van een bedrijf, voegt Andreas toe, hoewel sommige staten wellicht strengere regels hanteren.
“Regels op staatsniveau zorgen voor enige complexiteit”, zegt Andreas, “aangezien een paar staten werkgevers verplichten werknemers op de hoogte te stellen van elektronisch toezicht, terwijl nieuwere privacywetten de rechten op persoonsgegevens uitbreiden, maar zich nog steeds meer op consumenten dan op werknemers richten.”
Wetten moeten een inhaalslag maken
Hoewel er in landen als de Europese Unie strengere wetten bestaan met betrekking tot het registreren van toetsaanslagen en het vastleggen van schermen, is de bestaande wetgeving in de Verenigde Staten ‘ontoereikend voor het AI-tijdperk’, zegt Dario Maestro, juridisch directeur van het Surveillance Technology Oversight Project, een groep belangenbehartigers en juridische diensten die strijdt tegen het toenemende gebruik van surveillancetechnologie.
De bestaande “statuten zijn ontworpen om te voorkomen dat bazen telefoongesprekken afluisteren en privé-e-mails lezen, en niet om te voorkomen dat bedrijven elke klik omzetten in trainingsgegevens”, zegt Maestro. “Werknemers hebben bijna geen federaal recht om te weigeren, en ‘toestemming’ verkregen onder dreiging van ontslag is helemaal geen toestemming.”
“Om die kloof te dichten zal de wetgever van de staat AI-training als een afzonderlijk gebruik moeten behandelen – een gebruik dat afzonderlijke, herroepbare toestemming vereist en het hergebruiken van werknemersgegevens verbiedt die verder gaan dan wat oorspronkelijk werd bekendgemaakt”, voegt Maestro toe.
‘Medewerkers kunnen niet zinvol weigeren’
Op ethisch vlak zegt Andreas dat “de zorgen veel dieper gaan”, en zij herhaalt Maestro door te zeggen dat werknemers niet echt in staat zijn om in te stemmen met de activiteit.
“Werknemers kunnen niet zinvol weigeren wanneer hun werkgever besluit toetsaanslagen te loggen, dus elk idee van toestemming is grotendeels symbolisch”, zegt ze. “Zelfs als Meta het programma beschouwt als een bijdrage aan de ontwikkeling van AI, weten werknemers dat opt-out kan worden geïnterpreteerd als niet-naleving.”
Derek Leben, universitair hoofddocent ethiek aan de Tepper School of Business van de Carnegie Mellon University, zegt dat Meta ook niet de enige is.
“Dit is iets waar veel bedrijven mee experimenteren, en door te experimenteren bedoel ik dat ze ermee verder gaan en zien wat voor soort tegenslag ze krijgen van werknemers, vakbonden, de media en het publiek”, zegt Leben.
Hij voegt eraan toe dat er veel discussie en debat is en is geweest over waar de ethische grens ligt als het gaat om werkgevers die de privacy van werknemers respecteren wanneer zij aan het werk zijn – als die grens al bestaat.
Waar het in werkelijkheid op neerkomt, is of werkgevers “hun werknemers met waardigheid als menselijke wezens behandelen”, zegt Leben. Als dat niet gebeurt, kunnen werknemers het gevoel hebben dat ze ‘als kinderen worden behandeld’, en dat het volgen van hun computers ‘niet respectvol is’.
De praktijken van Meta zullen waarschijnlijk door andere bedrijven worden overgenomen, nu werkplekken in het tijdperk van AI worstelen met nieuwe privacyverwachtingen.
“Dit soort monitoring normaliseert ook een niveau van toezicht dat van oudsher gericht was op gig- en magazijnmedewerkers, door het uit te breiden naar kenniswerkersrollen en de verwachtingen over professioneel werk te hervormen”, zegt Andreas. “Het vervaagt verder de grens tussen het doen van je werk en het opleiden van je vervanger.”
