Pater Mike Schmitz, een katholieke priester en podcaster, sprak zijn gemeente toe van ruim 1,2 miljoen YouTube abonnees in november met een ongewoon soort homilie. Je kon de woorden die uit zijn mond kwamen niet altijd vertrouwen, zei Schmitz, omdat het soms niet echt zijn woorden waren – of zijn mond. Schmitz was het doelwit geworden van door AI gegenereerde nabootsing oplichting.
“Je wordt in de gaten gehouden door een demonisch mens”, zei de nep-Schmitz in een video die de echte Schmitz, die een LL Bean-jasje over zijn administratieve pak droeg, als voorbeeld in zijn aankondiging voor de openbare dienst opnam. “Je moet snel handelen, want de plekken voor het sturen van gebeden raken al op”, zei een andere nep-Schmitz met een dreigende zandloper achter zich. “En de volgende reis zal pas over vier maanden plaatsvinden.” De nep-Schmitz klonk een beetje robotachtig toen hij de kijkers aanspoorde op een link te klikken en hun zegen veilig te stellen voordat het te laat was.
“Ik kan ernaar kijken en zeggen: ‘Dat is belachelijk, dat zou ik nooit zeggen’”, zei de echte Schmitz, die in Duluth, Minnesota woont, in zijn callout-video. “Maar mensen weten het niet noodzakelijkerwijs. Dat is een probleem. Dat is een heel groot probleem.”
Op de echte video van Schmitz zeiden enkele van de belangrijkste commentaren van zijn volgers dat ze andere prominente katholieke figuren hadden zien nabootsen via AI-video’s, waaronder de paus. Volgens cybersecurity-expert Rachel Tobac, CEO van SocialProof Security, komt dat doordat predikanten extreem populaire onderwerpen zijn geworden van AI-oplichting en andere misleidende media.
“Als je TikTok of Reels gebruikt, zijn ze waarschijnlijk jouw For You-pagina tegengekomen”, zegt Tobac. “Dit is iemand die eruitziet als een priester, die alle kleding draagt, die op een preekstoel of een podium staat of hoe je het ook wilt noemen, en het lijkt erop dat hij op een heel enthousiaste manier tot zijn gemeente spreekt.”
Predikanten en predikanten in BirminghamAlabama, VrijhavenNew York, en Fort LauderdaleFlorida, hebben hun volgers gewaarschuwd voor AI-oplichting die hen nabootst in de vorm van DM’s, telefoontjes en deepfakes. Alan Beauchamp, een predikant in de Ozarks, zei op zijn Facebook-account werd gehacktwaarbij de hacker een nep, mogelijk door AI gegenereerd certificaat voor de handel in cryptocurrency plaatste met de naam van Beauchamp erop en een onderschrift waarin hij zijn gemeenteleden aanspoorde zich bij hem aan te sluiten. Een megakerk op de Filippijnen rapporten ontvangen van deepfakes met zijn voorgangers. Een evangelische kerk in Nebraska heeft een AI-‘oplichterwaarschuwing’ uitgegeven op Facebooken een kerkganger plaatste in de reacties een screenshot van teksten die zogenaamd afkomstig waren van een van hun predikanten.
Het helpt niet dat veel van de predikanten en predikanten die grote online volgers hebben gekregen, vaak daadwerkelijk om donaties vragen en dingen verkopen, maar niet dezelfde dingen als hun AI-imitators. Met de hulp van sociale media zijn religieuze gezagsdragers erin geslaagd gelovigen tot ver buiten hun eigen buurt te bereiken, maar de verspreiding van inhoud waarin hun gelijkenissen en stemmen te horen zijn, heeft ook de perfecte gelegenheid geboden voor oplichters die gebruik maken van generatieve AI-instrumenten.
