Had TikTok net zijn “lijm pizza” moment?
Het bedrijf trekt een nieuwe kunstmatige intelligentie-functie terug die het aan het testen was en die in de war is geraakt, door zeer onnauwkeurige, door AI gegenereerde tekstsamenvattingen toe te voegen aan video’s van gebruikers als Charli D’Amelio, Shakira en Saturday Night Live.
Deze ‘AI-overzichten’ zijn ontworpen om extra context voor een video te bieden, producten aan te bevelen die vergelijkbaar zijn met wat er op het scherm staat, en in het algemeen uit te leggen wat er gebeurde. Hoewel de tool sommige berichten goed samenvatte, hallucineerde het voor andere meer dan Bryan Johnson tijdens de zijne livestream paddenstoelenreis.
Hier zijn een paar chaotische voorbeelden van AI-overzichten die deze verslaggever de afgelopen week op de app zag:
- De AI-functie beschreef een video van Charli D’Amelio, die alleen voor een witte muur zat en rechtstreeks in de camera praatte, als een “verzameling van verschillende bosbessen met verschillende toppings.”
- Een bericht van een hondentrainer waarin werd uitgelegd waarom honden met hun voeten schoppen nadat ze naar het toilet zijn gegaan, werd beschreven als “een boeiende weergave van ingewikkelde origamikunst, zorgvuldig gevouwen uit één enkel vel.”
- Een video van Shakira waarin een nieuwe release van een nummer werd gepromoot, was volgens het AI-overzicht “een repetitieve reeks van verschillende verschillende blauwe vormen die over het scherm verschenen en bewogen”.
- Een virale post over een gebroken hart van een gebruiker genaamd Victoria werd beschreven als een “betoverende close-up van een kleine hand die herhaaldelijk ingewikkelde patronen op een glad oppervlak volgt.”
- Een video waarin Olivia Rodrigo haar aanstaande optreden op SNL promootte, werd ‘een persoonsgezicht genoemd dat geleidelijk wordt vervangen door een willekeurige, onzinnige reeks letters en cijfers’.
Eén Reddit-gebruiker schreef dat het was alsof de functie naar een video zou kijken en vervolgens “zelfstandig een ander tabblad zou openen en een willekeurige tekstgenerator zou gebruiken om een bijschrift te maken.”
Nu, na feedback van gebruikers, trekt TikTok de test terug, bevestigde een woordvoerder van het bedrijf tegen Business Insider. De AI-overzichtsfunctie is bijgewerkt om zich te concentreren op het identificeren van producten in een video in plaats van op het beschrijven van de volledige inhoud van een video, zeiden ze.
De tool, die al een paar maanden wordt getest, was beschikbaar voor een beperkt aantal gebruikers in de VS en een paar andere markten, zei de woordvoerder en omschreef het als een experiment.
TikTok weigerde te delen welke modellen het gebruikte om zijn AI-overzichten aan te sturen, maar een in-app-beschrijving van de functie zegt dat het afhankelijk was van die van TikTok zelf. AI-technologie of producten van derden.
Zien hallucinerende AI samenvattingen die deze week in mijn feed verschijnen, voelden als een terugkeer naar de tijd dat ChatGPT en andere vroege AI-producten regelmatig dingen verzonnen.
Toen Google in 2024 zijn versie van AI-overzichten uitbracht, verkondigde de feature vol vertrouwen dat er bijvoorbeeld een hond in de NHL had gespeeld. Het vertelde mijn collega Katie Notopoulos dat ze lijm aan haar pizza moest toevoegen om te voorkomen dat de kaas eraf zou glijden.
Hoewel AI-tools steeds beter worden in het beantwoorden van sommige vragen – uit een recente analyse van het AI-bedrijf Oumi bleek dat de AI-overzichten van Google ongeveer 90% van de tijd accuraat waren – voelde het vreemd geruststellend om te zien dat een technologie die doemdenkers voorspellen, dat ook zal doen. witteboordenbanen wegvagen en vele facetten van ons leven overnemen, kan nog steeds op dwaze en verrassende manieren mislukken.
