TikTok heeft zijn controversiële AI-remixsetting ingetrokken, bevestigde het bedrijf donderdag aan CNET. Dit is natuurlijk een grote koerswijziging voor een bedrijf dat een lange reis heeft gemaakt om AI in elk onderdeel van zijn platform te integreren.
TikTok had de setting geïntroduceerd om een door AI aangedreven mememaker te testen, geïnspireerd door video’s en clips op het platform, vertelde het bedrijf eerder deze week aan CNET. Met de nieuwe AI-functie, de meme-remixer genaamd, kan iedereen die je TikTok-video ziet er een door AI gegenereerde afbeelding van maken, waarbij het gezicht of de achtergrond verandert. De verborgen instelling gaf gebruikers automatisch toestemming om je geposte inhoud te remixen met AI, tenzij je dit expliciet hebt uitgeschakeld.
Creators die de setting op de sociale media-app hebben opgemerkt klaagde dat hun video’s automatisch zouden worden aangemeld en dat ze zich zorgen maakten over de manier waarop hun gegevens zouden worden gebruikt.
Voor sommige TikTokers voelde het als een inbreuk op de privacy en een nieuwe poging van sociale-mediaplatforms om heimelijk de originele inhoud te wijzigen.
“Het zou niet zo moeilijk moeten zijn om ons de mogelijkheid te geven om ons met één schakeloptie af te melden”, zei maker Sean Szolek-Van Valkenburgh in zijn filmpje. Hoewel makers willens en wetens bepaalde rechten op hun inhoud overdragen wanneer ze op platforms posten, zou er een optie moeten zijn om te beperken hoeveel daarvan door AI wordt uitgebuit, zei hij.
TikTok introduceert al enkele jaren AI-functies op zijn platform. Je hebt misschien het nieuwe doorschijnende pictogram boven een profielfoto opgemerkt wanneer je door video’s veegt: dat is Tako (uitgesproken als “taco”), de AI-assistent van TikTok.
Net als andere sociale mediaplatforms heeft TikTok te maken gehad met terugslag vanwege de integratie van AI, waarbij makers in paniek raakten AI-slop overstemt hun originele inhoudsamen met milieu, legaal En ethisch zorgen. Maar dat heeft bedrijven als TikTok niet tegengehouden, Snapchat en Meta, die eigenaar zijn Instagram en Facebookvan opladen naar AI.
Remixbare inhoud
Voordat TikTok het trok, was de AI-remixinstelling standaard ingeschakeld. Er was een schakelaar die je kon uitschakelen om te voorkomen dat anderen AI-memes van jouw clips zouden maken. De instelling werkte op dezelfde manier als de instellingen waarmee je kunt bepalen of mensen je video’s kunnen duetten of samenvoegen.
Dus als de instelling niet was uitgeschakeld en je een video van jezelf in een nieuwe coffeeshop plaatste, zou een commentator hypothetisch de meme-remixer kunnen gebruiken om een aangepaste prompt in te typen en een AI-afbeelding te maken met jouw beeltenis op een strand of in een ander scenario. Deze afbeeldingen worden vervolgens gedeeld in de reacties op de originele video.
Hoewel je AI-remixen voor afzonderlijke video’s kon uitschakelen, was er geen manier om je op accountniveau af te melden. TikTok-gebruikers moesten deze instelling voor elke video uitschakelen. De experimentele meme-tool is ook gepauzeerd terwijl TikTok de feedback evalueert.
TikTok had gezegd dat als je je video’s zou laten remixen met AI, ze niet zouden worden gebruikt om de AI-modellen te trainen. TikTok zei dat de schakelaar geen invloed had op de manier waarop TikTok je inhoud gebruikte of ermee interacteerde.
Maar gezien het black box-karakter van de manier waarop technologiebedrijven AI ontwikkelen, kunnen individuele makers dit op geen enkele manier bevestigen.
AI-inhoud op TikTok
Bij het bedrijf algemeen AI-beleidstaat dat alle inhoud die door AI is bewerkt of volledig is gemaakt, zich daaraan moet houden richtlijnen van de gemeenschap.
De regels van TikTok rond bewerkte media verbieden specifiek inhoud die gebruikers ‘misleidt’ door te geloven dat iets neps echt is, vooral wanneer het ‘nep-gezaghebbende bronnen of crisisgebeurtenissen weergeeft, of valselijk publieke figuren in bepaalde contexten toont’. Dit suggereert dat deepfakes verboden zouden zijn. Ook materiaal met seksueel misbruik van kinderen is expliciet verboden.
Door AI bewerkte inhoud die op TikTok wordt gedeeld, heeft een onzichtbaar watermerk, dat voldoet aan de C2PA-standaard. Maar met nieuwere, krachtigere AI-beeld- en videomodellen is het voor mensen moeilijk te zeggen of iets echt is of door AI is gegenereerd.
Hoewel beleid er op papier goed uit kan zien, is het de handhaving ervan die ertoe doet. Eén schepper, Georgie, die aan het stuur gaat soeptijdriep uit dat het voor mensen al gemakkelijk is om virale video’s opnieuw te posten of te stelen, en dat de nieuwe AI-tool het nog gemakkelijker zou maken om deepfakes van bekende makers te maken zonder hun toestemming.
Dit kan gevaarlijk zijn, zoals we hebben gezien Grok AI op X. Zonder de juiste voorzorgsmaatregelen kunnen gebruikers van sociale media gemakkelijk foto’s en video’s maken die mensen online delen deze om te zetten in beledigende, illegale inhoud.
