SpaceX waarschuwde investeerders dat AI-functies zoals Grok’s “Spicy” en “Unhinged” modi mogelijk maken, waarmee de chatbot ordinaire beeld- of stemreacties kan genereren met minder veiligheidsfilterszou het bedrijf kunnen blootstellen aan regelgevend toezicht en reputatieschade, volgens een indiening die woensdag is ingediend als onderdeel van de geplande beursgang van het bedrijf.
Vanaf december had SpaceX 530 miljoen dollar opzij gezet voor potentiële verliezen in rechtszaken, waarvan een deel zou kunnen voortkomen uit aanhoudende klachten ingediend tegen zijn AI-eenheid over geseksualiseerde beelden gegenereerd door zijn Grok-chatbot.
De onthullingen laten zien hoe SpaceX toen nieuwe financiële en reputatierisico’s op zich nam heeft de kunstmatige intelligentie-startup xAI van Elon Musk overgenomen in februari, een deal die de particuliere waardering van de raketbouwer deed stijgen tot meer dan $1 biljoen. In de indiening beweert SpaceX herhaaldelijk dat het de missie van xAI is om ‘naar de waarheid zoekende kunstmatige intelligentie’ te ontwikkelen. In de praktijk betekende dit vaak het lanceren van AI-functies met minimale vangrails. Hoewel het vrije karakter van Grok door Musk vaak als een verkoopargument wordt bestempeld, heeft het xAI met toezichthouders in heet water gebracht.
Het openbaar maken van potentiële bedrijfsrisico’s is een routinematig en wettelijk verplicht onderdeel van beursintroductieaanvragen, en sommige van de door SpaceX geschetste zorgen zullen wellicht nooit werkelijkheid worden. Het bedrijf is een van een aantal chatbotmakers die door toezichthouders onder de loep worden genomen terwijl overheden worstelen met de maatschappelijke impact van generatieve AI-tools.
SpaceX maakte in de indiening bekend dat er momenteel in de Verenigde Staten en andere landen een onderzoek loopt naar beschuldigingen dat Grok werd gebruikt om geseksualiseerde beelden van schijnbare minderjarigen te creëren. Het bedrijf merkte ook op dat het de beklaagde is in verschillende lopende class action-rechtszaken, en dat toekomstig ‘misbruik’ van zijn AI-producten het zou kunnen blootstellen aan meer wettelijke sancties, ‘waaronder verlies van toegang tot bepaalde markten, wat in het verleden heeft plaatsgevonden.’
Sommige AI-producten van SpaceX, waaronder de Spicy- en Unhinged-modi van Grok, zijn “ontworpen om meer openhartige, directe of minder gereserveerde of oneerbiedige resultaten te genereren”, aldus de indiening. “Omdat deze vormen oneerbiediger en harder kunnen zijn dan ons standaardaanbod, brengen ze verhoogde risico’s met zich mee, waaronder reputatieschade, het genereren van potentieel expliciete inhoud en desinformatie of misleidende output, potentiële niet-consensuele of uitbuitende beelden, inbreuk op intellectueel eigendom, of inhoud die kan worden gezien als uitbuitend, schadelijk, intimiderend, beledigend of discriminerend.”
SpaceX maakte ook aan investeerders bekend dat Grok en X volgens de indiening op 31 maart ongeveer 550 miljoen gecombineerde maandelijkse gebruikers hebben. Daarvan maken 117 miljoen maandelijks gebruik van de AI-functies van Grok. Ter vergelijking: OpenAI zegt dat ChatGPT meer dan heeft 900 miljoen wekelijkse gebruikers.
Of de risico’s van Grok en X de hoofdpijn waard zijn, kan een van de belangrijke vragen zijn waarmee beleggers zullen moeten worstelen voorafgaand aan de beursintroductie van SpaceX. Eerder deze week waarschuwde een groep non-profitorganisaties daarvoor De slechte staat van dienst op het gebied van de veiligheid van xAI zou een probleem kunnen worden voor SpaceX-investeerders.
De AI-eenheid van SpaceX, waartoe ook X en xAI behoren, vormt een belemmering voor de rest van het bedrijf, met een bedrijfsverlies van ruim 6,3 miljard dollar vorig jaar. De verkoop van advertenties, data en abonnementen groeit, maar niet in een tempo dat de divisie snel winstgevend zou maken. Een lichtpuntje voor de AI-inspanningen van SpaceX is de deal met Anthropic, die dat wel heeft gedaan afgesproken om 15 miljard dollar per jaar te betalen voor toegang tot de datacenters van het bedrijf.
