Elon Musk inzet groot op “pittige” AI. Nu is het officieel een risicofactor.
SpaceX verwierf xAI drie maanden voordat het zijn aanvraag indiende pre-IPO S-1 papierwerk. Dat bracht het interne sociale-mediaplatform van xAI, de consumentenchatbot en niet-veilige Grok AI-functies met zich mee.
In de aanvraag van woensdag zei SpaceX dat dergelijke functies ‘verhoogde risico’s’ en ‘reputatieschade’ met zich mee zouden kunnen brengen, omdat de Grok NSFW-modi ‘oneerbiediger en harder zijn dan ons standaardaanbod’.
De indiening waarschuwde voor de mogelijke “generatie van potentieel expliciete inhoud”, evenals “potentiële niet-consensuele of uitbuitende beelden” en inhoud die inbreuk maakt op intellectueel eigendom. Dergelijke inhoud kan ook worden gezien als ‘schadelijk, intimiderend, beledigend of discriminerend’, aldus de S-1.
Het is de standaardpraktijk voor bedrijven om potentiële risico’s voor hun bedrijf te markeren in hun pre-IPO-papierwerk, inclusief eventuele lopende onderzoeken of rechtszaken die een materiële impact kunnen hebben.
In januari kreeg xAI te maken met terugslag nadat Grok was opgericht niet-consensuele geseksualiseerde AI-beelden van vrouwen, inclusief minderjarigen. De beelden leidden tot publieke veroordelingen van overheidsfunctionarissen, beleidswijzigingen, en rechtszaken.
SpaceX verwees naar deze rechtszaken in de S-1-aanvraag. Het bedrijf is in de VS onderworpen aan “onderzoeken en onderzoeken” naar “beschuldigingen dat onze AI-producten werden gebruikt om niet-consensuele expliciete afbeeldingen of inhoud te creëren die kinderen in geseksualiseerde contexten vertegenwoordigt, en soortgelijke zaken”, aldus het rapport.
“Het bedrijf en bepaalde dochterondernemingen zijn genoemd als gedaagden in meerdere rechtszaken die voortkomen uit de functies voor het genereren en bewerken van afbeeldingen door Grok”, luidt de S-1.
SpaceX zei dat het van plan is zichzelf ‘krachtig te verdedigen in deze acties’. Elon Musk heeft eerder de beweringen teruggedraaid dat Grok geseksualiseerde AI-beelden van minderjarigen heeft gegenereerd, in januari vermeld dat hij “niet op de hoogte was van naakte minderjarige beelden gegenereerd door Grok.”
Het bedrijf heeft na de reactie wijzigingen aangebracht in zijn Grok AI. beperking van het genereren van afbeeldingen aan betalende klanten.
Het bedrijf waarschuwde ook dat het in de toekomst mogelijk te maken krijgt met “aanvullende rechtszaken” rond dergelijke onderwerpen.
Het bedrijf omschreef Grok ook als “een van de snelst voortschrijdende grensmodellen in vergelijking met sectorgenoten, waaronder OpenAI, Anthropic en Google.”
De SpaceX-aanvraag verwees ook naar de Ierse gegevensbeschermingscommissie onderzoek naar het AI-bedrijf.
“Dit onderzoek omvat de verwerking van persoonlijke gegevens van betrokkenen uit de Europese Unie, inclusief kinderen, met behulp van generatieve AI-functionaliteit geassocieerd met het Grok-model binnen het X-platform”, aldus het dossier.
XAI produceert ook een verscheidenheid aan AI-metgezellen, zoals zijn AI anime-personage, Ani. In de indiening waarschuwde SpaceX voor een onderzoek van de Federal Trade Commission over hoe AI-bedrijven “de veiligheid van hun chatbots hebben geëvalueerd wanneer ze optreden als metgezellen voor kinderen en tieners.”
Terwijl SpaceX het ‘oneerbiedige’ AI-aanbod van Grok heeft verdubbeld, zijn zijn concurrenten teruggedeinsd. OpenAI-CEO Sam Altman kondigde in oktober een stap in de richting van “erotica voor volwassenen” aan; de plannen zijn in de wacht.
