Vijf jaar lang, Caitlyn Jones wel Pinterest gebruikt wekelijks om recepten voor haar zoon te vinden. In september zag Jones een romig recept voor de slowcooker met kip en broccoli, bestrooid met gouden cheddar en een vleugje peterselie. Ze bekeek snel de ingrediënten en voegde ze toe aan haar boodschappenlijstje. Maar net toen ze op het punt stond te gaan koken, nadat ze alles al had gekocht, viel één ding op: The recept vertelde haar dat ze moest beginnen met het “loggen” van de kip in de slowcooker.
Verward, zij klikte op de “Over”-pagina van de receptenblog. Een griezelig perfect uitziende vrouw keek haar stralend aan, terwijl het gouden licht weerkaatste op haar schort en warrige haar. Jones besefte meteen wat er aan de hand leek te zijn: de vrouw was door AI gegenereerd.
“Hallo, ik ben Souzan Thorne!” de pagina gelezen. “Ik ben opgegroeid in een huis waar de keuken het hart van alles was.” De begeleidende beelden waren onberispelijk maar vreemd, de biografie vaag en algemeen.
“Het lijkt stom dat ik dit niet eerder heb opgemerkt, maar aangezien ik zo druk ben in de supermarkt, dacht ik niet eens dat dit een probleem zou zijn”, zegt Jones, die in Californië woont. Terug in een culinair hoekje maakte ze het dubieuze gerecht, en het was niet lekker: de waterige, flauwe kip liet een vieze smaak achter in haar mond.
Omdat ze haar hart moest luchten, wendde ze zich tot de subreddit r/Pinterest, die een stadsplein is geworden voor ontevreden gebruikers. “Pinterest verliest alles waar mensen van hielden, namelijk authentieke pins en authentieke mensen”, schreef ze. Ze zegt dat ze sindsdien de app volledig heeft afgezworen.
‘AI-slop’ is een term voor in massa geproduceerde, door AI gegenereerde inhoud van lage kwaliteit die het internet verstopt. video’s naar boeken naar berichten op Medium. En Pinterest-gebruikers zeggen dat de site er vol van staat.
Het is een “onsmakelijke pap die ons met geweld wordt voorgeschoteld”, schreef Alexios Mantzarlis, directeur van het Security, Trust, and Safety Initiative bij Cornell Tech, in zijn onlangs gepubliceerde taxonomie van AI-slop. En “Souzan” – voor wie een Google-zoekopdracht geen enkel resultaat oplevert – is slechts het topje van de ijsberg.
“Alle platforms hebben besloten dat dit deel uitmaakt van het nieuwe normaal”, vertelt Mantzarlis aan WIRED. “Het is een groot deel van de inhoud die over de hele linie wordt geproduceerd.”
“Enshittificatie”
Pinterest werd gelanceerd in 2010 en op de markt gebracht zichzelf als een “visuele ontdekkingsmachine voor het vinden van ideeën.” De site bleef jarenlang advertentievrij en bouwde een loyale gemeenschap van creatieven op. Sindsdien is het zo gegroeid aan ruim een half miljard actieve gebruikers. Maar volgens sommige ontevreden gebruikers zijn hun feeds de laatste tijd een heel andere wereld gaan weerspiegelen.
De feed van Pinterest bestaat voornamelijk uit afbeeldingen, wat betekent dat het gevoeliger is voor AI-slop dan sites met video’s, zegt Mantzarlis, omdat modellen doorgaans gemakkelijker realistische afbeeldingen kunnen genereren dan video’s. Het platform leidt gebruikers ook naar externe sites, en met die uitgaande klikken kunnen contentfarms gemakkelijker inkomsten genereren dan volgers op de site.
