Meta zei woensdag dat het een nieuwe reeks tools lanceert om dit probleem aan te pakken de huidige sociale media oplichting op WhatsApp, Facebook en Messenger. Met deze instrumenten zullen de fraudeproblemen worden aangepakt sociale platformszoals de alarmerend aantal mensen dat valt voor nep-celeb-bait-profielen. Meta zegt dat het in 2025 meer dan 159 miljoen oplichtingsadvertenties heeft verwijderd.
Een Meta-vertegenwoordiger reageerde niet onmiddellijk op een verzoek om commentaar.
De nieuwste oplichting gebruikt veel door AI gegenereerde inhoud om nepprofielen en zelfs nepwebsites te maken, dus het is geen verrassing dat Meta zijn eigen AI-tools gebruikt om mensen te beschermen.
WhatsApp-waarschuwingen
De nieuwe beveiligingen van WhatsApp voegen pop-ups toe.
Ten eerste is er de wereldwijde chat-app WhatsApp, die dankzij zijn programma een frequent doelwit is van oplichters mobiel apparaat koppelingsfuncties die dit mogelijk maken snelle koppeling van externe apparaten naar een rekening. Zodra oplichters toegang krijgen tot een account, kunnen ze een reeks schadelijke activiteiten uitvoeren, waaronder zich voordoen als de gebruiker om vrienden en familie te misleiden. Vorig jaar Meta bijna 7 miljoen accounts verwijderd op deze manieren door oplichters gebruikt.
Oplichters kunnen zich eerst voordoen als familieleden, verkopers, dienstverleners of makers van inhoud en vragen om telefoonnummers om apparaatkoppelingscodes en QR-codes te delen die sommige mensen zonder nadenken kunnen activeren.
Meta’s WhatsApp-functie let op gevaarsignalen van niet-gekoppelde accounts, zoals een verzoek uit een ander land waarmee je nog niet eerder hebt gecommuniceerd. Vervolgens wordt er een extra pop-upwaarschuwing weergegeven om er zeker van te zijn dat u verbinding wilt maken met een vreemde, waardoor u idealiter even de tijd krijgt om te overwegen of dat misschien een dom idee is.
Rode vlaggen voor Facebook en Messenger
Facebook wijst op waarschuwingssignalen bij zwendelaccounts, zoals accounts die zojuist zijn aangemaakt.
Facebook voegt ook nieuwe beschermingsmaatregelen tegen oplichting toe, met name waarschuwingen over het toevoegen van of communiceren met een verdacht account. Meta heeft nog niet alle signalen onthuld die het gebruikt om te bepalen of een account verdacht is, maar net als WhatsApp zoekt het naar ongebruikelijke locaties in het buitenland.
Een andere rode vlag is een account waarmee jij of je vrienden nog nooit eerder interactie hebben gehad. Facebook zal naast de waarschuwingspop-ups uitleg geven, zoals de opmerking dat een account pas enkele dagen geleden is aangemaakt, voordat je je keuze bevestigt.
De Messenger-app introduceert een soortgelijke functie die accountactiviteit controleert op patronen die wijzen op oplichtingsgedrag. Meta specifiek geroepen werkgerelateerde oplichtingwaarin oplichters onmogelijke of goedbetaalde banen aanbieden als een manier om persoonlijke informatie te stelen of om mensen naar een phishing-website te leiden.
AI-scans om valse inhoud te ontdekken
Messenger bevat nu AI-scans om te letten op signalen van oplichting, maar we weten niet hoeveel er wordt gekeken.
Over phishing-websites gesproken, ze zijn in opkomst en er authentieker uitzien dan ooit, waardoor zelfs degenen die ervaring hebben met phishing-gevaren voor de gek worden gehouden. En ja, een goed voorbeeld van generatieve AI is de mogelijkheid om eenvoudig een oplichtingswebpagina op te zetten en echte merklogo’s na te bootsen.
Meta meldt dat het zijn eigen AI-tools gebruikt om oplichtingsinhoud nauwkeuriger te scannen en te identificeren. Dat omvat het doorzoeken van de Messenger-geschiedenis, het zoeken naar nepfoto’s die beroemdheden nabootsen en het opmerken van ongebruikelijke vermeldingen van publieke figuren. Deze tools kunnen ook phishing-schema’s op de site detecteren.
Meta’s nieuwe AI-tools voor het detecteren van oplichting leiden uiteraard tot bezorgdheid over de privacy. Hoewel het bedrijf zegt dat de functies de accountactiviteit analyseren om frauduleus gedrag op te sporen, is niet precies bekendgemaakt hoe die gegevens precies worden verwerkt of opgeslagen. Controverses uit het verleden rond de AI-initiatieven van Meta, inclusief de AR-brillaten zien dat AI-gestuurde monitoring onbedoelde privacyrisico’s met zich mee kan brengen, wat het belang van transparantie en robuuste waarborgen benadrukt bij het uitrollen van dergelijke technologie op platforms voor persoonlijke berichtenuitwisseling.
Meta heeft niet precies gezegd wanneer deze tools voor alle gebruikers beschikbaar zullen zijn.
