NIEUWJe kunt nu naar Fox News-artikelen luisteren!
Grok, de ingebouwde chatbot op X, wordt intensief onderzocht nadat ze heeft erkend dat het een AI-afbeelding heeft gegenereerd en gedeeld waarop twee jonge meisjes in geseksualiseerde kledij zijn afgebeeld.
In een openbare post op X gaf Grok toe dat inhoud “schendt ethische normen” en “mogelijk Amerikaanse wetten inzake materiaal van seksueel misbruik van kinderen (CSAM).” De chatbot voegde eraan toe: “Het was een fout in de veiligheidsmaatregelen en het spijt me voor de eventuele schade. xAI is bezig met een evaluatie om toekomstige problemen te voorkomen.”
Die bekentenis alleen al is alarmerend. Wat volgde onthulde een veel breder patroon.
Meld u aan voor mijn GRATIS CyberGuy-rapport
Ontvang mijn beste technische tips, dringende beveiligingswaarschuwingen en exclusieve aanbiedingen rechtstreeks in uw inbox. Bovendien krijg je direct toegang tot mijn Ultimate Scam Survival Guide – gratis als je lid wordt van mijn CYBERGUY.COM nieuwsbrief.
OPENAI scherpt de AI-regels voor tieners aan, maar er blijven zorgen bestaan
De gevolgen van dit incident hebben geleid tot mondiaal onderzoek, waarbij overheden en veiligheidsgroepen zich afvragen of AI-platforms wel genoeg doen om kinderen te beschermen. (Silas Stein/fotoalliantie via Getty Images)
De verontschuldiging riep nog meer vragen op
De verontschuldiging van Grok verscheen pas nadat een gebruiker de chatbot had gevraagd een oprechte verklaring te schrijven voor mensen zonder context. Met andere woorden: het systeem heeft het probleem niet proactief aangepakt. Het reageerde omdat iemand het vroeg.
Rond dezelfde tijd ontdekten onderzoekers en journalisten wijdverbreid misbruik van de beeldtools van Grok. Volgens monitoringbureau Copyleaks genereerden gebruikers niet-consensuele, seksueel gemanipuleerde beelden van echte vrouwen, waaronder minderjarigen en bekende figuren.
Na het bekijken van de openbaar toegankelijke fotofeed van Grok, identificeerde Copyleaks een conservatief percentage van ongeveer één niet-consensueel geseksualiseerd beeld per minuut, gebaseerd op beelden van echte mensen zonder duidelijke indicatie van toestemming. Het bedrijf zegt dat het misbruik snel escaleerde en verschoof van consensuele zelfpromotie naar grootschalige intimidatie, mogelijk gemaakt door AI.
Copyleaks CEO en mede-oprichter Alon Yamin zei: “Als AI-systemen de manipulatie van beelden van echte mensen toestaan zonder duidelijke toestemming, kan de impact onmiddellijk en zeer persoonlijk zijn..”
KINDEREN BESCHERMEN TEGEN AI-CHATBOTS: WAT DE GUARD ACT BETEKENT
Grok gaf toe dat het een AI-imago genereerde en deelde dat in strijd was met ethische normen en mogelijk de Amerikaanse kinderbeschermingswetten heeft overtreden. (Kurt “CyberGuy” Knutsson)
Geseksualiseerde afbeeldingen van minderjarigen zijn illegaal
Dit is geen grijs gebied. Het genereren of verspreiden van geseksualiseerde afbeeldingen van minderjarigen is een ernstig strafbaar feit in de Verenigde Staten en veel andere landen. Volgens de Amerikaanse federale wetgeving wordt dergelijke inhoud geclassificeerd als materiaal met seksueel misbruik van kinderen. Straffen kunnen bestaan uit vijf tot twintig jaar gevangenisstraf, boetes tot $250.000 en verplichte registratie van zedendelinquenten. Soortgelijke wetten zijn van toepassing in Groot-Brittannië en Frankrijk.
In 2024 kreeg een man uit Pennsylvania bijna acht jaar gevangenisstraf wegens het creëren en bezitten van deepfake CSAM waarbij kinderberoemdheden betrokken waren. Deze zaak schiep een duidelijk precedent. Grok zelf erkende deze juridische realiteit in zijn post en stelde dat AI-afbeeldingen die minderjarigen in een geseksualiseerde context weergeven illegaal zijn.
De omvang van het probleem groeit snel
Uit een rapport uit juli van de Internet Watch Foundation, een non-profitorganisatie die materiaal over seksueel misbruik van kinderen online opspoort en verwijdert, blijkt hoe snel deze dreiging toeneemt. Alleen al in de eerste helft van 2025 zijn de meldingen van door AI gegenereerde beelden van seksueel kindermisbruik met 400% gestegen. Deskundigen waarschuwen dat AI-tools de drempel voor potentieel misbruik verlagen. Wat ooit technische vaardigheden of toegang tot verborgen forums vereiste, kan nu gebeuren via een eenvoudige prompt op een mainstream platform.
Echte mensen zijn het doelwit
De schade is niet abstract. Reuters documenteerde gevallen waarin gebruikers Grok vroegen om echte vrouwen digitaal uit te kleden wier foto’s op X waren geplaatst. In meerdere gedocumenteerde gevallen voldeed Grok volledig. Nog verontrustender was dat gebruikers zich richtten op afbeeldingen van een 14-jarige actrice, Nell Fisher, uit de Netflix-serie Stranger Things. Grok gaf later toe dat er geïsoleerde gevallen waren waarin gebruikers afbeeldingen ontvingen van minderjarigen in minimale kleding. In een ander onderzoek van Reuters beschreef een Braziliaanse muzikant het kijken naar door AI gegenereerde bikinibeelden van zichzelf verspreid over X nadat gebruikers Grok hadden gevraagd een onschadelijke foto te wijzigen. Haar ervaring weerspiegelt waar veel vrouwen en meisjes nu mee te maken hebben.
Overheden reageren wereldwijd
De reactie is mondiaal geworden. In Frankrijk hebben meerdere ministers X doorverwezen naar een onderzoeksbureau vanwege mogelijke schendingen van de EU-wet inzake digitale diensten, die platforms verplicht om de verspreiding van illegale inhoud te voorkomen en te beperken. Overtredingen kunnen leiden tot zware boetes. In India gaf het IT-ministerie van het land xAI 72 uur de tijd om een rapport in te dienen waarin gedetailleerd werd beschreven hoe het van plan is de verspreiding van obsceen en seksueel expliciet materiaal, gegenereerd door Grok, te stoppen. Grok heeft ook publiekelijk gewaarschuwd dat xAI te maken kan krijgen met mogelijke onderzoeken van het ministerie van Justitie of rechtszaken die verband houden met deze mislukkingen.
Gelekte metadocumenten laten zien hoe AI-chatbots omgaan met kinderuitbuiting
Onderzoekers ontdekten later dat Grok op grote schaal werd gebruikt om niet-consensuele, seksueel gewijzigde beelden van echte vrouwen, inclusief minderjarigen, te creëren. (Nikolas Kokovlis/NurPhoto via Getty Images)
De zorgen over de veiligheid van Grok en het gebruik door de overheid groeien
Het incident geeft aanleiding tot ernstige zorgen over online privacy, platformbeveiliging en de waarborgen die zijn ontworpen om minderjarigen te beschermen.
Elon Musk, de eigenaar van X en oprichter van xAI, had op het moment van publicatie geen publieke reactie gegeven. Die stilte komt op een gevoelig moment. Grok is geautoriseerd voor officieel gebruik door de overheid onder een federaal contract van 18 maanden. Deze goedkeuring werd verleend ondanks bezwaren van meer dan dertig consumentenorganisaties die waarschuwden dat het systeem niet over de juiste veiligheidstests beschikte.
Het afgelopen jaar werd Grok door critici beschuldigd van het verspreiden van verkeerde informatie over grote nieuwsgebeurtenissen, het bevorderen van antisemitische retoriek en het delen van misleidende gezondheidsinformatie. Het concurreerde ook rechtstreeks met tools als ChatGPT en Gemini, terwijl het met minder zichtbare veiligheidsbeperkingen werkte. Elke controverse roept dezelfde vraag op. Kan een krachtige AI-tool op verantwoorde wijze worden ingezet zonder sterk toezicht en handhaving?
Wat ouders en gebruikers moeten weten
Als u online geseksualiseerde afbeeldingen van minderjarigen of ander beledigend materiaal tegenkomt, meld dit dan onmiddellijk. In de Verenigde Staten kunt u contact opnemen met de FBI-tiplijn of hulp zoeken bij het National Center for Missing & Exploited Children.
Download, deel, maak geen screenshot van de inhoud en communiceer er op geen enkele manier mee. Zelfs het bekijken of doorsturen van illegaal materiaal kan u blootstellen aan ernstige juridische risico’s.
Ouders moeten ook met kinderen en tieners praten over AI-beeldtools en aanwijzingen op sociale media. Veel van deze afbeeldingen zijn gemaakt op basis van informele verzoeken die in eerste instantie niet gevaarlijk aanvoelen. Door kinderen te leren inhoud te melden, de app te sluiten en dit aan een vertrouwde volwassene te vertellen, kan worden voorkomen dat de schade zich verder verspreidt.
Platformen kunnen falen. De waarborgen kunnen achterblijven. Maar vroege rapportage en duidelijke gesprekken thuis blijven een van de meest effectieve manieren om kinderen online te beschermen.
Doe mijn quiz: Hoe veilig is uw online veiligheid?
Denkt u dat uw apparaten en gegevens echt beschermd zijn? Doe deze korte quiz om te zien waar uw digitale gewoonten staan. Van wachtwoorden tot Wi-Fi-instellingen: u krijgt een persoonlijk overzicht van wat u goed doet en wat verbetering behoeft. Doe hier mijn quiz: Cyberguy.com
De belangrijkste inzichten van Kurt
Het Grok-schandaal benadrukt een gevaarlijke realiteit. Naarmate AI zich sneller verspreidt, vergroten deze systemen de schade op een ongekende schaal. Als de veiligheidsmaatregelen falen, lijden echte mensen en lopen kinderen ernstige risico’s. Tegelijkertijd kan vertrouwen niet afhankelijk zijn van excuses die worden aangeboden nadat er schade is aangericht. In plaats daarvan moeten bedrijven vertrouwen winnen door middel van een sterk veiligheidsontwerp, constante monitoring en echte verantwoordelijkheid wanneer zich problemen voordoen.
Moet een AI-systeem worden goedgekeurd voor gebruik door de overheid of het grote publiek voordat het bewijst dat het op betrouwbare wijze kinderen kan beschermen en misbruik kan voorkomen? Laat het ons weten door ons te schrijven op Cyberguy.com.
KLIK HIER OM DE FOX NEWS-APP TE DOWNLOADEN
Meld u aan voor mijn GRATIS CyberGuy-rapport
Ontvang mijn beste technische tips, dringende beveiligingswaarschuwingen en exclusieve aanbiedingen rechtstreeks in uw inbox. Bovendien krijg je direct toegang tot mijn Ultimate Scam Survival Guide – gratis als je lid wordt van mijn CYBERGUY.COM nieuwsbrief.
Copyright 2025 CyberGuy.com. Alle rechten voorbehouden.
