Ik wil het niet toegeven, maar ik heb dit kerstinkopenseizoen veel geld online uitgegeven. En het is niet verwonderlijk dat sommige van die aankopen niet aan mijn verwachtingen voldeden. Een fotoboek dat ik kocht, raakte tijdens het transport beschadigd, dus maakte ik een paar foto’s, e-mailde ze naar de verkoper en kreeg mijn geld terug. Online winkelplatforms zijn lange tijd afhankelijk geweest van foto’s die door klanten zijn ingediend om te bevestigen dat terugbetalingsverzoeken legitiem zijn. Maar generatieve AI begint dat systeem nu te doorbreken.
Een snuifje te verdacht
Op de Chinezen sociale media-app RedNoteWIRED heeft minstens een dozijn berichten gevonden van e-commerceverkopers en vertegenwoordigers van de klantenservice die klagen over zogenaamd door AI gegenereerde terugbetalingsclaims die ze hebben ontvangen. In één geval klaagde een klant dat het door hem gekochte laken in stukken was gescheurd, maar dat de Chinese karakters op het verzendlabel op wartaal leken. In een andere stuurde de koper een foto van een koffiemok met scheuren die op papieren tranen leken. “Dit is een keramische beker, geen kartonnen beker. Wie zou een keramische beker in zulke lagen kunnen scheuren?” schreef de verkoper.
De verkopers meldden dat er een paar productcategorieën zijn waar door AI gegenereerde schadefoto’s het meest worden misbruikt: verse boodschappen, goedkope schoonheidsproductenen breekbare voorwerpen zoals keramische kopjes. Verkopers vragen klanten vaak niet om deze goederen te retourneren voordat ze een terugbetaling uitvoeren, waardoor ze gevoeliger zijn voor oplichting met retourzendingen.
In november ontving een handelaar die levende krabben verkoopt op Douyin, de Chinese versie van TikTok, een foto van een klant waarop het leek alsof de meeste krabben die ze kocht al dood waren aangekomen, terwijl twee anderen waren ontsnapt. De koper stuurde zelfs video’s waarop te zien was dat de dode krabben door een menselijke vinger werden gepord. Maar er klopte iets niet.
“Mijn familie kweekt al meer dan dertig jaar krabben. We hebben nog nooit een dode krab gezien waarvan de poten naar boven wijzen”, zei Gao Jing, de verkoper, in een video die ze later op Douyin plaatste. Maar wat uiteindelijk de zwendel verraadde, waren de geslachten van de krabben. Er waren twee mannen en vier vrouwen in de eerste video, terwijl de tweede clip drie mannen en drie vrouwen bevatte. Eén van hen had ook negen in plaats van acht poten.
Gao deed later aangifte van de fraude bij de politie, die vaststelde dat de video’s inderdaad verzonnen waren en hield de koper acht dagen vast, volgens een politiebericht dat Gao online deelde. De zaak trok veel aandacht op de Chinese sociale media, deels omdat het de eerste bekende AI-terugbetalingszwendel in zijn soort was die aanleiding gaf tot een reactie van de toezichthouders.
Barrières verlagen
Dit probleem is niet uniek voor China. Forter, een in New York gevestigd bedrijf voor fraudedetectie, schat dat de door AI gemanipuleerde beelden die worden gebruikt bij terugbetalingsclaims sinds het begin van het jaar met meer dan 15 procent zijn toegenomen en wereldwijd blijven stijgen.
“Deze trend begon medio 2024, maar heeft zich het afgelopen jaar versneld doordat tools voor het genereren van afbeeldingen breed toegankelijk en ongelooflijk eenvoudig te gebruiken zijn geworden.” zegt Michael Reitblat, CEO en medeoprichter van Forter. Hij voegt eraan toe dat de AI niet alles goed hoeft te doen, omdat winkelmedewerkers in de frontlinie en restitutieteams misschien niet de tijd hebben om elke foto nauwkeurig te onderzoeken.
