Vanaf het moment dat Elon Musk’s kunstmatige intelligentie bedrijf xAI begon in 2023 zijn Grok-chatbot uit te rollen naar betalende X-abonnees en gooide de tool als de slechte jongen van grote taalmodellen. Grok zou zogenaamd bevoegd zijn om dingen te zeggen en te doen die zijn politiek correcte concurrenten – vooral ChatGPT, geproduceerd door Musks oude aartsvijanden bij OpenAI – niet zouden doen.
In een aankondiging op X prees het bedrijf de ‘rebelse inslag’ van Grok en plaagde het zijn bereidheid om ‘pittige’ vragen met ‘een beetje humor’ te beantwoorden. Hoewel xAI waarschuwde dat Grok ‘een heel vroeg bètaproduct’ was, verzekerde het gebruikers dat Grok met hun hulp ‘elke week snel zou verbeteren’.
Destijds adverteerde xAI niet dat Grok op een dag niet-consensuele pornografie op aanvraag zou leveren. Maar de afgelopen weken is dat precies wat er is gebeurd, als X-abonnees het platform overstroomde met verzoeken om echte afbeeldingen van vrouwen te wijzigen door hun kleding te verwijderen, hun lichaam te veranderen, hun benen te spreiden, enzovoort. X-gebruikers hoeven geen premiumabonnee te zijn om van deze diensten gebruik te kunnen maken toegankelijk zowel op X als op de zelfstandige app van Grok.
Sommige afbeeldingen die met de hulp van Grok zijn gemaakt, tonen topless of anderszins suggestieve afbeeldingen van meisjes tussen de 11 en 13 jaar oud. volgens aan een Britse kinderveiligheidswaakhond. Een analyse Uit de 20.000 afbeeldingen die Grok tussen 25 december en 1 januari had gegenereerd, bleek dat de chatbot had voldaan aan gebruikersverzoeken om kinderen af te beelden met seksuele vloeistoffen op hun lichaam. Op oudejaarsavond, een AI-bedrijf dat detectiediensten voor beeldwijzigingen aanbiedt geschat dat Grok geseksualiseerde beelden produceerde met een snelheid van ongeveer één per minuut.
“Ik ben in het verleden seksueel misbruikt, en het voelde bijna als een digitale versie daarvan”, zei een vrouw verteld De snit nadat Grok-gebruikers een foto van haar poseren naast een kerstboom terwijl ze trainingsuitrusting droeg, hadden omgezet in een foto van haar die een stringbikini droeg. “Ik vind het onbegrijpelijk dat mensen dit vrouwen mogen aandoen.”
Donderdag meldde journalist en Bellingcat-oprichter Eliot Higgins dat hij door Grok gegenereerde beelden had gezien van Renee Nicole Good, de ongewapende 37-jarige vrouw die werd neergeschoten en vermoord door ICE-agenten in Minneapolis, aangepast om haar dode lichaam in bikini weer te geven. Als Higgins zei het: “Digitale lijkenontheiliging nu beschikbaar voor het publiek.”
Ondanks alle mogelijke gebruiksscenario’s van AI-chatbots die AI-bedrijven de afgelopen jaren hebben aangeprezen, was op maat gemaakte pornografie altijd de meest voor de hand liggende. (Je hoeft geen gedragswetenschapper te zijn om te begrijpen wat bepaalde demografische kenmerken zijn denk meteen te doen wanneer het wordt gepresenteerd met een tool waarvan wordt geadverteerd dat deze op magische wijze fotorealistische beelden kan produceren van alles wat je maar kunt bedenken.) Met wisselend succes hebben platforms als ChatGPT en Google’s Gemini op zijn minst geprobeerd om deze mogelijkheid voor te zijn, door “vangrails” te bouwen die proberen de mogelijkheden van gebruikers om NSFW-afbeeldingen aan te passen aan hun smaak te beperken.
Een groot verschil tussen deze bedrijven en xAI is natuurlijk dat xAI wordt geleid door Musk, wiens ideologische inzet voor het uitroeien van wakkerheid en censuur zich uitstrekt tot het bieden van geamuseerde, knipogende verdedigingen van niet-consensuele inhoud voor volwassenen die wordt gepubliceerd door het vlaggenschipproduct van zijn bedrijf.
Op zijn X-account heeft Musk aanwijzingen afgevuurd behandelen wat een existentiële crisis zou zijn voor elk ander bedrijf als een leuke en grappige meme. Het feit dat een van de slachtoffers Ashley St. Clair was, de moeder van Musks 1-jarige zoon, weerhield Musk er niet van verklaren zelf kon niet stoppen met lachen om een AI-afbeelding van een in bikini geklede broodrooster.
Zowel X als Musk hebben dat sindsdien gedaan uitgegeven verklaringen gebruikers eraan herinneren dat de servicevoorwaarden van X de creatie van materiaal met seksueel misbruik van kinderen (CSAM) en pornografie verbieden. X heeft ook gezegd dat het CSAM en andere illegale inhoud verwijdert en de accounts die deze inhoud creëren permanent opschort. Tegelijkertijd is het nogal een uitdaging voor het bedrijf om zichzelf te positioneren als iemand die een probleem serieus neemt, terwijl de eigenaar, die ook de meest gevolgde persoon op het platform is, inlogde en de hele zaak als één grote grap behandelde.
Normaal gesproken zou het bestaan van een online tool die CSAM met één klik kan genereren, tot wijdverbreide verontwaardiging en snelle reacties van de rechtshandhavingsinstanties leiden. Toezichthouders in landen in Europa, Azië en Zuid-Amerika hebben dat wel gedaan beloofd te onderzoeken, en deze week de Europese Commissie verlengd een bevel dat vereist dat X alle Grok-gerelateerde documenten en gegevens bewaart terwijl ambtenaren er nader naar kijken.
Daar Zijn ook de bestaande juridische mechanismen in de VS om de verachtelijke dingen aan te pakken die Grok doet. Minder dan een jaar geleden ondertekende Trump bijvoorbeeld de TAKE IT DOWN Act, een tweepartijenwet die websites verplicht om “niet-consensuele intieme beelden” binnen 48 uur te verwijderen op verzoek van het slachtoffer. En hoewel een bepaling van de federale wet, bekend als Sectie 230, websites en sociale-mediaplatforms over het algemeen beschermt tegen aansprakelijkheid voor inhoud die door hun gebruikers wordt gepubliceerd, doet Grok hier zelf het ‘publiceren’ door de afbeeldingen te genereren.
Senator Ron Wyden (D-OR), die dertig jaar geleden hielp bij het schrijven van Sectie 230, gewogen op Bluesky, met het argument dat “AI-chatbot-uitvoer niet beschermd is” op grond van Sectie 230, en dat “het niet op het nippertje is.” Samen met twee andere Democratische senatoren heeft Wyden dat ook gedaan vroeg Apple en Google gaan Grox en X uit hun appstores verwijderen wegens schending van de servicevoorwaarden van de bedrijven. Dit zou een belangrijke stap zijn verder dan wat de enige actie lijkt te zijn die Apple tot nu toe heeft ondernomen: verhogen de leeftijdsclassificatie van de Grok-app van 12+ tot 13+.
Dat gezegd hebbende, Musk, wie besteed Vier wervelende maanden waarin we de administratieve staat als hoofd van het ministerie van Efficiëntie van de overheid hebben aangepakt, hebben genoeg praktische redenen om ons geen zorgen te maken. Dankzij de politieke en financiële steun die Musk en zijn collega’s uit Silicon Valley aan de Republikeinse Partij bieden, is de tweede regering-Trump enthousiast over het integreren van AI-producten – zowel van xAI als van andere bedrijven – in de werking van de federale overheid.
Het feit dat Trump David Sacks, een technologie-investeerder met aanzienlijke AI- en crypto-belangen (en nauwe persoonlijke en professionele banden met Musk), onmiddellijk heeft aangewezen als zijn AI- en crypto-tsaar, is een vrij goede indicatie dat zinvolle regulering niet snel zal komen.
Volgens een Brennan Center hebben staten met zowel door de Democraten als de Republikeinen gecontroleerde wetgevers sinds 2019 gereageerd op het uitblijven van federale actie door meer dan 140 staatswetten aan te nemen die AI reguleren. analyse. Maar in december 2025 maakte het Witte Huis wat misschien wel het meest veelbelovende gebaar tot nu toe is naar de AI-industrie: een uitvoerend bevel Hij herhaalt de toewijding van Trump aan het bouwen van een “minimaal belastend nationaal beleidskader voor AI” dat “de mondiale AI-dominantie van de Verenigde Staten zal behouden en versterken.”
Het bevel draagt onder andere uitvoerende instanties op om AI-regelgeving van de staat te identificeren die de regering inconsistent acht met haar agenda, en moedigt procureur-generaal Pam Bondi aan om een “AI Litigation Task Force” te vormen om de overtredende wetten voor de rechtbank aan te vechten.
Zoals de meeste uitvoerende bevelen van Trump zal dit niet de onmiddellijke impact hebben enkele ademloze krantenkoppen voorstellen; zoals het bevel zelf erkent, zou het Congres actie moeten ondernemen om de inhoudelijke bepalingen van kracht te laten worden. Maar voor Musk is de boodschap die het Witte Huis over zijn prioriteiten verzendt wat er echt toe doet: op dit moment is de regering-Trump te veel bezig met het starten van illegale oorlogen en het executeren van ongewapende demonstranten op straat om zich zorgen te maken over een paar gewaagde beelden die op haar favoriete sociale mediaplatform verschijnen.
Toen Musk vorig jaar Washington verliet, deed hij dat niet stilletjes en haalde hij uit naar Trump omdat hij zo was onvoldoende respectvol aan zijn voorkeuren en onvoldoende dankbaar voor zijn steun. Maar acht maanden later toont het feit dat de officiële reactie op Grok’s pornografie en CSAM-kenmerken in feite een belangeloos schouderophalen is aan dat het kwart miljoen dollar dat Musk in 2024 aan Trump en andere Republikeinen schonk een gezonde investering in de toekomst van zijn bedrijf was.
Op 3 januari, terwijl Grok nog stil was uitspugen Met deze beelden op verzoek hadden Musk en Trump zich voldoende verzoend om samen te gaan eten in Mar-a-Lago. Daarna Trump genaamd Musk ‘geweldig’ en ‘een goede kerel’, en Musk voorspelde dat 2026 ‘geweldig’ zou zijn.
Wetten zijn slechts zo sterk als de bereidheid van de machthebbers om ze af te dwingen. Als je eigenaar bent van de mensen die je reguleren, is er geen schandaal dat te weerzinwekkend is om weg te lachen.
