De Chineestalige kunstmatige inlichtingen-app Haotian is zo effectief dat het miljoenen dollars heeft verdiend met de verkoop van zijn face-swapping-technologie Telegram. De dienst kan eenvoudig worden geïntegreerd met berichtenplatforms als WhatsApp en WeChat en beweert dat gebruikers tot wel vijftig instellingen kunnen aanpassen (waaronder de mogelijkheid om zaken als jukbeengrootte en oogpositie aan te passen) om het gezicht dat ze nabootsen na te bootsen. Maar hoewel Haotian een robuust en veelzijdig platform is, hebben onderzoekers en WIRED’s eigen analyse ontdekt dat de dienst op de markt is gebracht zogenaamde “varkensslachting” oplichters en degenen die onlinefraudeactiviteiten uitvoeren in Zuidoost-Azië.
Oplichters hebben Haotiaanse en andere deepfake-tools gebruikt om hun bedrog gemakkelijker te onderbouwen door slachtoffers te laten ‘videochatten’ met het personage waarmee ze denken te hebben gesproken als onderdeel van een investeringsmogelijkheid, vriendschap of zelfs een romantische relatie. Uit analyse door het cryptocurrency-tracingbedrijf Elliptic van vier cryptocurrency-portefeuilles die verband houden met Haotian blijkt dat het bedrijf de afgelopen jaren minstens $3,9 miljoen aan betalingen heeft ontvangen, inclusief geld uit cryptocurrency-portefeuilles die verband houden met vermeende criminele activiteiten, waaronder fraude. Bovendien hield bijna de helft van de betalingen verband met oplichting marktplaats gesanctioneerd door de Amerikaanse overheid, zegt Elliptic.
Hieu Minh Ngo, een gereformeerde criminele hacker die cybercriminaliteitsonderzoeker is geworden bij de Vietnamese oplichtingsbestrijdingsorganisatie ChongLuaDao, zegt dat Haotian, dat rond 2021 opkwam, “een van de eerste in zijn soort en erg populair” was. Ngo heeft uitgebreid onderzoek gedaan naar Haotian en zijn activiteiten. “De resultaten zijn bijna perfect”, zegt hij. “En ze worden elke dag beter en beter. Als je de crypto-portemonnee incheckt, zie je het geld elke dag binnenkomen.”
Haotian is slechts een deel van de breder technologie-ecosysteem die rond Zuidoost-Azië is ontstaan bloeiend cybercrime-industrie En zwendelverbindingen met dwangarbeid. En naarmate face-swapping en andere video-deepfake-tools op grotere schaal beschikbaar zijn geworden, worden ze steeds vaker opgenomen in oplichting en andere vormen van cybercriminaliteit over de hele wereld. In de afgelopen twee jaar hebben functionarissen van het United Nations Office on Drugs and Crime meer dan tien face-swapping-tools geïdentificeerd die mogelijk door cybercriminelen in Zuidoost-Azië worden gebruikt, onder meer voor oplichting met cryptocurrency en imitatie van politieagent.
Haotian heeft een website voor zijn face-swapping-tool, maar promoot zijn desktop-app voornamelijk via een openbaar Telegram-kanaal, dat volgens Ngo’s onderzoek in oktober 2023 werd gelanceerd. Via dit kanaal, dat inmiddels meer dan 20.000 abonnees heeft, brengt het bedrijf nieuwe versies van de app op de markt, geeft ontwikkelingsupdates en biedt technische ondersteuning. Hoewel marketingsoftware via Telegram niet per se schadelijk is, zeggen onderzoekers dat het klantenbestand van Haotian steeds groter is geworden scheef richting oplichters die al informatie zoeken over een scala aan grijze marktdiensten op de berichten-app.
Telegram weigerde commentaar te geven. Nadat WIRED echter contact had opgenomen met het bedrijf, werden het belangrijkste openbare Haotian Telegram-kanaal en enkele bijbehorende accounts ontoegankelijk of leken ze te zijn verwijderd. Telegram heeft geen verzoek om commentaar geretourneerd over de vraag of het bedrijf deze accounts heeft verwijderd.
