Twee weken geleden, Open AI aangekondigd dat dit het geval zou zijn het uitstellen van de release van de “Adult Mode”,” een NSFW-chatbotinstelling waarmee gebruikers erotische chats kunnen voeren en ‘smut’ kunnen genereren.
Dat vertelde een anonieme bron van het bedrijf onlangs journalist Alex Heath de vertraging was gebaseerd op bijgewerkte prioriteiten, een stap die leek aan te sluiten bij het besluit van OpenAI om terug te schalen in het licht van aanhoudende juridische gevechtenvoortbouwen GPT 5.4en scoren handelt met de federale overheid. Maar interviews met anonieme insiders, deze week gepubliceerd door de Wall Street Journalvertel een ander verhaal.
De welzijnsadviesraad van het bedrijf zei tijdens een bijeenkomst in januari dat ze het er unaniem over eens waren dat het bedrijf niet verder zou moeten gaan met de voorgestelde volwassenmodus, vertelden insiders. WJ. Bezorgdheid van psychologen en cognitieve wetenschappers werd genegeerd, zeiden ze, nadat ze hadden gewaarschuwd dat X-rated chats ongezonde emotionele afhankelijkheid konden bevorderen – een bestaand probleem bij standaard ChatGPT-gebruikers.
Insiders zeiden dat een deskundige waarschuwde dat ChatGPT slechts een ‘sexy zelfmoordcoach’ zou worden.
Bovendien waarschuwden adviseurs dat de chatbot leeftijdsverzekeringspolissen – inclusief de nieuwe technologie voor leeftijdsvoorspelling – waren niet robuust genoeg om de X-rated ervaring aan te kunnen. Volgens de WJwerkte het systeem op een gegeven moment met een foutenpercentage van 12 procent bij het classificeren van kleine gebruikers. Insiders zeiden dat dit ertoe zou leiden dat miljoenen minderjarigen onder de radar zouden vliegen en mogelijk toegang zouden krijgen tot ontwikkelingsongepaste chatervaringen.
Mashbare lichtsnelheid
OpenAI-concurrent Meta doorstond vorig jaar een soortgelijk schandaal interne documenten onthuld laks veiligheidsbeleid voor chatbots voor tienergebruikers. Meta heeft sindsdien heeft zijn AI-beleid herzien voor tieners, maar laat chatbots en AI-avatars nog steeds toe om deel te nemen aan ‘romantisch rollenspel’.
Ondanks zorgen zegt OpenAI dat het in de toekomst verder zal gaan met de Adult Mode.
Maar de veiligheidsteams van OpenAI zijn naar verluidt nog steeds bezig met het uitzoeken van de fijnere details van hoe de ervaring zal werken, inclusief hoe ze expliciete inhoudsbeperkingen effectief kunnen opheffen en tegelijkertijd inhoud zoals niet-consensueel gedrag of seksueel misbruik van kinderen kunnen blokkeren, zo meldt de publicatie. Een woordvoerder zei tegen de Wall Street Journal die modus voor volwassenen zou gebruikers in staat stellen tekstgesprekken op “vuil niveau” te genereren, maar geen regelrechte pornografie.
Ze zeiden ook dat het foutenpercentage bij de leeftijdsverificatie “industriestandaard” was en dat het nooit waterdicht kon zijn.
Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, heeft in april 2025 een rechtszaak aangespannen tegen OpenAI, omdat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.
Onderwerpen
Sociaal goed
ChatGPT
