Er is een nieuwe zwarte markt in de wereld van AI.
Bedrijven als Scale AI, Surge AI en Mercor huren duizenden aannemers over de hele wereld in om AI-chatbots te helpen trainen door hun reacties voor Big Tech-klanten te evalueren – en dat heeft aanleiding gegeven tot een schaduweconomie waarin rekeningen van werknemers illegaal te koop worden aangeboden.
Uit het onderzoek van Business Insider bleek dat minstens honderd groepen op Facebook op illegale wijze toegang verkochten tot echte en valse AI-trainingsaccounts, die contractanten nodig hebben om voor datalabelbedrijven te werken. Nadat we het fenomeen hadden opgemerkt, heeft Meta ongeveer 40 groepen en stukjes inhoud verwijderd wegens schending van het beleid en zet het onderzoek voort, aldus een woordvoerder.
De prominente AI-trainingsbedrijven verbieden het doorverkopen van accounts en zeggen dat ze voorzorgsmaatregelen hebben getroffen om deze praktijk te voorkomen. Maar de zogenaamde ‘geverifieerde’ accounts blijven te koop op Facebook, WhatsApp en Telegram.
Interne documenten tonen aan dat Scale AI een Investering van 14 miljard dollar van Meta in juni, vecht al jaren tegen frauduleuze en dubbele accounts en VPN-misbruik, en het bedrijf heeft gebruikers uit sommige landen uitgesloten van projecten om bedrog tegen te gaan.
Deze AI-trainingsbedrijven hebben dat wel dit jaar miljarden opgehaald Terwijl technologiegiganten racen om de gegevens veilig te stellen die nodig zijn om hun AI-modellen te trainen en aannemers in te huren, die vaak ‘spookwerkers’ worden genoemd voor hun werk achter de schermen rol in de ontwikkeling van AI.
De bevindingen van Business Insider laten zien hoe AI-training, ook wel bekend als datalabeling, oplichters en sluipzoekers aantrekt, vergelijkbaar met het delen van accounts dat gebeurde voor apps voor voedselbezorging en ritjes. Het baart zorgen voor accountkopers en -verkopers, die kunnen worden opgelicht en hun privégegevens kunnen lekken, en voor de klanten die de contracterende bedrijven betalen.
Sara Saab, vice-president product bij Prolific, een in Groot-Brittannië gevestigde start-up voor data-labeling, zei dat uit het onderzoek van het bedrijf is gebleken dat er geen enkele fraudegroep achter de beweging zit, en dat de ondergrondse industrie een niveau van verfijning heeft bereikt dat wordt gezien bij bankfraude of het scalperen van concertkaartjes.
“Technologieën die bedrijven op het gebied van datalabeling helpen, helpen ook mensen met slechte bedoelingen, fraudeurs en oplichters”, zei ze.
Als het werk opdroogt, grijpen opportunisten in
Voordat aannemers taken kunnen ontvangen zoals het labelen van afbeeldingen of het voorstellen van alternatieve chatbotreacties, moeten ze accounts aanmaken en screeningtests voltooien op platforms zoals Scale AI-bediende Outlier of Surge AI-bediende DataAnnotation.tech. Het werk is op afstand, asynchroon en het loon kan oplopen tot meer dan $ 100 per uur.
Platformen zoals Outlier bieden taakgebaseerde projecten die enkele uren tot enkele maanden kunnen duren, vaak in regio’s waar taalvertaling of data-annotatiewerk nodig is, of waar de lonen lager zijn. Als projecten opdrogen, geldt dat ook voor de lonen van aannemers. Dat is waar opportunisten hun intrede doen.
Ze richten zich op potentiële trainers door ‘geverifieerde’ Outlier-accounts te verkopen die toebehoren aan mensen in landen als de VS, waar projecten nog steeds actief zijn, aldus twee voormalige Outlier-contractanten in Kenia. Sommige kunnen echte accounts zijn, en andere kunnen nep zijn, maar hoe dan ook, het doorverkopen van accounts is door de bedrijven verboden.
De twee Keniaanse contractanten, wier identiteit bekend is bij Business Insider, zeiden dat ze persoonlijk mensen kennen die accounts hadden gekocht. Ze voegden eraan toe dat sommigen ook accounts kochten als ze de screeningtests niet konden doorstaan.
Accountkopers gebruiken tools zoals een VPN of een ‘schaduwproxy’ om hun ware locatie te maskeren door hun internetverbinding via het apparaat van iemand anders in het doelland te leiden, zeiden de twee voormalige contractanten in Kenia.
Er zijn tal van sociale-mediaprofielen die beweren dat ze accountkopers kunnen leren hoe ze de regels van datacontractbedrijven kunnen omzeilen. Business Insider beoordeelde YouTube-kanalen en Telegram-groepen die zogenaamde taskers-handleidingen verkopen om ‘geografische beperkingen’ te omzeilen of antwoorden op de onboarding-tests of specifieke projecten van Outlier.
Degenen die hun rekeningen ‘verhuren’ aan taskers vragen een vergoeding vooraf, een percentage van de toekomstige inkomsten, of beide, volgens vier aannemers die zijn benaderd door mensen die hun rekeningen willen kopen.
Business Insider vond een betaalde advertentie op WhatsApp die geverifieerde accounts wilde kopen en doorverkopen voor twee van de grootste AI-trainingsplatforms, Outlier en Mercor.
Speeltuin voor oplichters
Beide partijen zijn op hun hoede voor oplichting, vertelden twee in de VS gevestigde aannemers aan Business Insider. Kopers zijn bang dat een ‘verkoper’ de betaling aanneemt en verdwijnt. Verkopers zijn bang dat hun koper hen geen percentage van de toekomstige inkomsten zal bieden zodra ze de inloggegevens voor hun account hebben overhandigd.
In verschillende berichten van Business Insider zeiden Facebook-gebruikers dat ze waren opgelicht. Sommigen zeiden dat ze betaalden voor een AI-trainingsaccount, alleen voor de oplichter om ze te blokkeren en met hun geld te verdwijnen. Anderen zeiden dat ze een e-mailadres en wachtwoord hadden gekregen dat niet daadwerkelijk bij een AI-trainingsbedrijf was geregistreerd.
De twee Amerikaanse contractanten zeiden dat ze vaak directe berichten op Reddit ontvingen van mensen die hun accounts wilden kopen nadat ze de screeningtests hadden doorstaan. Potentiële kopers boden hen een ‘eerlijke betaling’ aan, plus een onbepaalde verlaging van de toekomstige inkomsten via de rekening, zo blijkt uit een chat van Business Insider. Eén aannemer zei dat ze de verzoeken negeerden omdat hun accounts zouden kunnen worden verboden als ze werden betrapt. Nog een zorg: ze zouden inkomstenbelasting moeten betalen voor betaald werk dat op hun rekeningen wordt uitgevoerd.
Vertegenwoordigers van de grootste databedrijven, waaronder Scale AI, Mercor, Prolific en Surge AI, zeiden dat het kopen en verkopen van accounts verboden is en dat ze over een verscheidenheid aan mechanismen beschikken, van het monitoren van Facebook-groepen tot patroonanalyse op accountniveau om fraude op te sporen.
Facebook-berichten waarin reclame wordt gemaakt voor de verkoop van dergelijke accounts zijn ook in strijd met de gemeenschapsnormen van Meta fraude- en oplichtingsbeleidbevestigt een woordvoerder.
“We gebruiken apparaat-, IP- en gedragsbeveiligingen om verdachte accounts te identificeren en te verwijderen voordat ze toegang krijgen tot het werk van klanten”, aldus een woordvoerder van Scale AI.
Schaal-AI confronteert ‘valsspelers’
Door Business Insider beoordeelde AI-documenten op interne schaal laten zien dat het in 2016 opgerichte bedrijf al minstens twee jaar te maken heeft met oplichters. Op een project voor Google in 2024 werden duizenden taskers in een document gemarkeerd als ‘vermoedelijke spammers’ of ‘valsspelers’. In een spreadsheet uit 2023 met de titel ‘Good and Bad Folks’ en een andere met de titel ‘verdachte niet-Amerikaanse taskers’, waarin Schaal is per ongeluk openbaar gebleven voor iedereen met de link verzamelde het bedrijf details van potentiële fraudeurs.
Een andere spreadsheet uit eind 2023 toont het ongebreidelde gebruik van VPN’s en meerdere accounts van dezelfde persoon. Het document bevat een lijst met 490 contractanten die zijn verwijderd: 48 vanwege het gebruik van een VPN en een app voor digitale betalingen waarmee gebruikers geld kunnen opnemen in Amerikaanse dollars; 70 voor accounts geregistreerd onder dezelfde naam; en 11 voor het hebben van twee accounts. Nog eens 21 gebruikers werden verwijderd omdat ze taskers van “lage kwaliteit” waren.
Uit de documenten blijkt ook dat een project met een niet bij naam genoemde klant te kampen had met kwaliteitsproblemen. In een projectvoortgangsregistratiedocument bespraken Scale AI-managers verschillende strategieën om ‘de spammers een stap voor te zijn’. Ze omvatten onder meer het verbieden van bepaalde accounts uit Egypte, Kenia, Pakistan en andere landen om deel te nemen aan het project vanwege het gebruik van ChatGPT, en het blokkeren van het kopiëren en plakken van inhoud. De in Kenia gevestigde contractant waar Business Insider mee sprak, zei dat alle mogelijkheden voor AI-trainingsprojecten in de regio sinds eind 2024 sterk zijn afgenomen.
De zwarte markt voor Outlier-accounts heeft een nieuwe huisnijverheid aangewakkerd: het kapen van echte accounts. Aannemers hebben ontvangen valse e-mails voor functiepromotie vragen om hun inloggegevens. Scale AI verbood één gebruiker omdat hij de contactgegevens van werknemers verzamelde en deze in de zomer spamde, volgens een e-mail van Business Insider.
Saab van Prolific beschreef het aanvallen op AI-trainingsplatforms als een ‘versnelde wapenwedloop’ tussen hen en fraudeurs – en zei dat het proactieve actie van bedrijven vereist om voorop te blijven lopen.
Heeft u een tip? Neem contact op met Shubhangi Goel via e-mail op sgoel@businessinsider.com of Signaal op shuby.85. Gebruik een persoonlijk e-mailadres en een niet-werkapparaat; hier is onze gids voor het veilig delen van informatie.
