Meta Het leiderschap wist dat de AI-metgezellen van het bedrijf, ook wel AI-personages genoemd, dat wel konden deelnemen aan ongepaste en seksuele interacties en lanceerden ze nog steeds zonder strengere controles, volgens nieuwe interne documenten die op maandag (28 januari) werden onthuld als onderdeel van een rechtszaak tegen het bedrijf door de procureur-generaal van New Mexico.
De communicatie, verzonden tussen Meta-veiligheidsteams en platformleiderschap waar CEO Mark Zuckerberg niet bij betrokken was, bevat onder meer bezwaren tegen het bouwen van begeleidende chatbots die door volwassenen en minderjarigen kunnen worden gebruikt voor expliciete romantische interacties. Ravi Sinha, hoofd van Meta’s kinderveiligheidsbeleid, en Antigone Davis, hoofd van de mondiale veiligheid van Meta, stuurden berichten waarin ze overeenkwamen dat chatbot-begeleiders bescherming zouden moeten hebben tegen seksueel expliciete interacties door gebruikers onder de 18 jaar. Andere berichten beweren dat Zuckerberg aanbevelingen om ouderlijk toezicht toe te voegen, inclusief de optie om genAI-functies uit te schakelen, heeft afgewezen, vóór de lancering van AI-begeleiders kort daarna.
Meta wordt geconfronteerd met meerdere rechtszaken met betrekking tot zijn producten en hun impact op minderjarige gebruikers, waaronder een mogelijk baanbrekend juryproces over het zogenaamd verslavende ontwerp van sites als Facebook en Instagram. De concurrenten van Meta, waaronder YouTube, TikTok en Snapchat, staan ook onder verscherpt juridisch toezicht.
De onlangs vrijgegeven communicatie maakte deel uit van de gerechtelijke ontdekking in een zaak tegen Meta, aangespannen door procureur-generaal Raúl Torrez uit New Mexico. Torrez eerst ingediend een civiele rechtszaak tegen Meta in 2023, waarin werd beweerd dat het bedrijf zijn platforms ‘marktplaatsen voor roofdieren’ had laten worden. De interne communicatie tussen de leidinggevenden van Meta werd ontsloten en vrijgegeven terwijl de zaak volgende maand voor de rechter komt.
Mashbare lichtsnelheid
In november beweerde een aanklager uit een grote rechtszaak die in meerdere districten was aangespannen in het noordelijke district van Californië dat er sprake was van een mild beleid ten aanzien van gebruikers die de veiligheidsregels overtraden, waaronder de regels die zijn gerapporteerd voor “mensenhandel voor seksDocumenten toonden ook aan dat de leidinggevenden van Meta naar verluidt op de hoogte waren van ‘miljoenen’ volwassenen die contact opnemen met minderjarigen op hun sites. ‘Het volledige dossier zal aantonen dat we al meer dan tien jaar naar ouders hebben geluisterd, kwesties hebben onderzocht die er het meest toe doen, en echte veranderingen hebben doorgevoerd om tieners te beschermen’, vertelde een woordvoerder van Meta aan TIME.
Na een schikking van de rechtszaak voegt Snapchat nieuw ouderlijk toezicht voor tieners toe
“Dit is het zoveelste voorbeeld van de manier waarop de procureur-generaal van New Mexico documenten uitkiest om een gebrekkig en onnauwkeurig beeld te schetsen”, zei Meta-woordvoerder Andy Stone in reactie op de nieuwe documenten.
Meta stopte het gebruik van zijn chatbots door tieners in augustus, na een rapport van Reuters waarin de interne AI-regels van Meta werden gevonden toegestane chatbots om deel te nemen aan gesprekken die ‘sensueel’ of ‘romantisch’ van aard waren. Het bedrijf achteraf heeft zijn veiligheidsrichtlijnen herzienmet uitzondering van inhoud die seksueel misbruik van kinderen “mogelijk maakt, aanmoedigt of goedkeurt”, romantische rollenspellen waarbij minderjarigen betrokken zijn, en andere gevoelige onderwerpen. Vorige week Meta opnieuw AI-chatbots vergrendeld voor jonge gebruikers toen het een nieuwe versie verkende met verbeterd ouderlijk toezicht.
Torrez heeft andere procureurs-generaal in hun pogingen daartoe aangezet grote sociale mediaplatforms voor de rechter slepen over zorgen over de veiligheid van kinderen. In 2024, Torrez heeft Snapchat aangeklaagdwaarbij hij beweerde dat het platform het mogelijk maakte dat sextortion en verzorging van minderjarigen zich verspreidden, terwijl het zichzelf nog steeds als veilig voor jonge gebruikers op de markt bracht.
