Twee voormalige OpenAI-medewerkers en een groep AI-veiligheidsnon-profitorganisaties waarschuwen dat het AI-laboratorium van Elon Musk, xAIzou een verplichting kunnen worden voor potentiële investeerders in RuimteX, die zich voorbereidt op de indiening van wat naar verwachting de grootste beursintroductie in de geschiedenis van Wall Street zal zijn.
In een brief gericht aan investeerders, die dinsdag werden gepubliceerd, benadrukten de ex-stafleden wat zij omschrijven als “ongeprijsde risico’s” met betrekking tot xAI, die de gerapporteerde plannen van SpaceX zouden kunnen compliceren om tot $75 miljard als onderdeel van zijn beursintroductie. De particuliere waardering van het raketbedrijf schoot daarna omhoog naar meer dan $1 biljoen vorig jaar xAI overgenomen. Musk beweerde dat zijn raketbedrijf datacentra de ruimte in zou kunnen lanceren voor zijn AI-lab, maar de auteurs van de brief beweren dat de slechte staat van dienst van xAI op het gebied van veiligheidskwesties de manier waarop investeerders naar het gecombineerde bedrijf kijken terwijl het zich klaarmaakt om zijn onderzoeksrapport in te dienen, zou kunnen bemoeilijken. Indiening van een IPO-prospectus.
Een van de ondertekenaars en co-auteurs van de brief is een nieuwe non-profitorganisatie genaamd Guidelight AI Standards, die mede werd opgericht door voormalig veiligheidsonderzoeker van OpenAI. Steven Adler en voormalig OpenAI-beleidsadviseur Page Hedley. De groep, die wordt gesteund door particuliere donoren, heeft tot doel de veiligheidspraktijken van grensverleggende AI-bedrijven te verbeteren. Andere non-profitorganisaties op het gebied van AI-veiligheid hebben zich ook aangemeld, waaronder Legal Advocates for Safe Science and Technology, Encode AI en The Midas Project.
Hedley vertelt WIRED in een interview dat hij gelooft dat xAI “bijna over de hele linie” de slechtste veiligheidspraktijken hanteert in vergelijking met andere grensverleggende AI-ontwikkelaars, waaronder OpenAI, Google DeepMind en Anthropic. Als gevolg hiervan, zo stelt hij, loopt SpaceX mogelijk een groter risico op regulering en rechtszaken dan andere AI-laboratoria.
De auteurs van de brief stellen dat SpaceX verschillende onthullingen moet doen aan investeerders, waaronder de vraag of xAI van plan is door te gaan met het ontwikkelen van grensverleggende AI-modellen. SpaceX onlangs heeft een deal gesloten om een aanzienlijk deel van zijn GPU-capaciteit aan Anthropic te verkopenen de brief beweert dat de overeenkomst “het onduidelijk maakt of xAI nog steeds een grens-AI-concurrent is binnen een grotere holding.” Als xAI doorgaat met het ontwikkelen van grensverleggende AI-modellen, zeggen de auteurs dat het verplicht zou moeten worden een plan voor openbare veiligheid en bestuur te publiceren.
SpaceX en xAI reageerden niet onmiddellijk op het verzoek van WIRED om commentaar.
De brief schetst ook voorbeelden van hoe xAI geen gelijke tred heeft gehouden met de industriestandaard veiligheidspraktijken, zoals het publiceren van gedetailleerde raamwerken voor het beperken van risico’s rond zijn AI-modellen die worden gebruikt bij cyberaanvallen. De auteurs schetsen ook specifieke veiligheidsincidenten bij xAI waarvan zij zeggen dat ze extra onderzoek rechtvaardigen. Een van de meest opvallende is wanneer xAI’s vlaggenschip AI-chatbot, Grok, spontaan bracht de blanke genocide ter sprake in zijn reacties. In een ander geval zorgde xAI ervoor dat Grok er duizenden kon genereren geseksualiseerde beelden van vrouwen en kinderendie zich wijd verspreidde via Musks sociale mediaplatform X. Dit laatste geval was de aanleiding minstens 37 Amerikaanse procureurs-generaal om een brief te sturen waarin wordt geëist dat het AI-lab van Musk stappen onderneemt om vrouwen en kinderen op zijn platform te beschermen.
Hedley zegt dat het aantal veiligheidsincidenten dat xAI heeft meegemaakt en de aandacht van de regelgevende instanties die zij hebben gekregen “verre buiten proportie is met zijn marktaandeel.” Nu wetgevers zich steeds meer zorgen maken over de cybermogelijkheden van geavanceerde AI-modellen Claude Mythos van Anthropickunnen er nieuwe veiligheidsregels in het verschiet liggen. De regering-Trump is dat naar verluidt al het wegen van een uitvoerend bevel dat zou de Amerikaanse inlichtingendiensten meer toezicht geven op AI-modellen.
“Er zijn serieuze investeringen nodig om de (AI-veiligheids)risico’s onder controle te krijgen, en het lijkt erop dat xAI hier historisch gezien te weinig heeft geïnvesteerd”, zegt Adler. De brief citeert berichtgeving uit de Washington Post waarin staat dat xAI net “twee of drie” mensen die vanaf januari aan veiligheid werken. “Een vraag die investeerders zich zouden moeten afvragen is: als xAI voorop blijft lopen, hoe duur zou het dan kunnen zijn om deze (risico’s) op een verantwoorde manier te beheren? Als ze dat niet doen, wat kunnen dan de gevolgen zijn?”
