Mijn reis verder TikTok-winkel begon met een zoektocht naar ‘hiphop-sieraden’. Het is een onschuldige zoekopdracht die meerdere gebruikers waarschijnlijk hebben ingetypt, in de hoop iets te vinden om te dragen. Terwijl ik door de goedkope sieraden snuffelde, werd ik getroffen door wat TikTok te bieden heeft algoritme herhaaldelijk gesuggereerd dat ik misschien ook geïnteresseerd zou zijn in: sieraden met flagrante nazi-symboliek.
TikTok blijft worstelen met moderatie nu de in-app e-commerce winkel steeds meer grip krijgt bij jongere gebruikers. Vorig jaar verwijderde het sociale-mediaplatform er meerdere antisemitische producten uit zijn winkel. Meest recentelijk scrolden veel gebruikers door video’s op hun Voor jou-pagina’s verontwaardiging geuit toen eind december een swastika-halsketting, onder de naam ‘hiphop titanium stalen hanger’, aan hen werd gepromoot als een product dat in de TikTok Shop te koop was en $ 8 kostte.
Het platform verwijderde het product uiteindelijk omdat sommige gebruikers die beweerden het voorgestelde item in hun feed tegen te komen, screenshots deelden in virale posts op sociale media.
Ondanks dat TikTok die ketting had verwijderd, bracht mijn onderzoek naar TikTok Shop een algoritmisch web van extreemrechtse productzoeksuggesties aan het licht dat mij in de richting van blanke nationalistische en nazi-gerelateerde termen duwde. Op het speciale tabblad Winkelen op TikTok zocht ik naar producten die ik kon kopen en volgde ik wat het algoritme mij aanbeveelde in de vakken ‘Anderen zochten’. Dit aanbevelingsvenster verschijnt soms in de mobiele app van TikTok als een set van vier gerelateerde zoeksuggesties, elk met een afbeelding, terwijl gebruikers naar producten zoeken en bladeren door wat er beschikbaar is in TikTok Shop.
SchermafbeeldingFoto: WIRED-personeel
TikTok-woordvoerder Glenn Kuper bevestigt dat het soort zoeksuggesties dat ik in mijn berichtgeving zie, in strijd is met het beleid van het bedrijf. Hij zegt dat TikTok er momenteel aan werkt om deze algoritmische suggesties uit de app te verwijderen, in antwoord op een gedetailleerde lijst met vragen van WIRED.
Koperen hoogtepunten Veiligheidsrapport van TikTok Shopwaarin staat dat het e-commerceplatform in de eerste helft van 2025 700.000 verkopers en 200.000 beperkte of verboden producten heeft verwijderd.
Boeddhisten gebruikten veel manji-symbolen, die er vaak uit kunnen zien identiek aan swastika’sduizenden jaren vóór de nazi’s. Toch bevatte de ketting die in december werd gepromoot een detail dat suggereerde dat het sieraad zo algemeen werd gezien omdat het mogelijk deel uitmaakte van een poging tot trollen door extremisten, in plaats van een cultureel misverstand.
Joan Donovan, de oprichter van de Kritisch Instituut voor Internetstudies en co-auteur van het boek Meme-oorlogenkwam de virale ketting uit de eerste hand tegen in haar feed. In deze context, zegt Donovan, verwijst de beschrijving van de ketting naar ‘HH’, een afkorting van de slogan ‘Heil Hitler’ die veel door nazi’s wordt gebruikt. Voor haar was wat de swastika-halsketting onderscheidde een hondenfluitje dat in de productbeschrijving was gestopt: ‘hiphop’.
