De grootste technologiebedrijven ter wereld worden geconfronteerd met een juridische confrontatie die de manier waarop sociale media worden ontworpen fundamenteel zou kunnen veranderen.
Het proces vindt plaats in het Los Angeles County Superior Court, waar de juryselectie op 27 januari begon. Er wordt een nieuwe juridische theorie getest die bedoeld is om meer regulering van sociale-mediaplatforms zoals TikTokSnap, YouTube en Meta’s Facebook en Instagram: advocaten maken zich op om te betogen dat de bedrijven achter deze platforms hun sites zo ontwerpen dat ze opzettelijk verslavend zijn, wat resulteert in direct persoonlijk letsel voor gebruikers, vooral kinderen.
In totaal zal het proces naar verwachting uit negen zaken bestaan, die door rechters in het hele land zijn samengesteld als enkele van de sterkste indicatoren voor dit nieuwe argument. De eerste op de rol is een zaak aangespannen door een 20-jarige eiser geïdentificeerd als KGM, die zegt dat een gebrek aan voldoende vangrails op sociale-mediasites tijdens haar jeugd leidde tot dwangmatig gebruik en geestelijke gezondheidsproblemen zoals depressie, angst, lichaamsdysmorfie, zelfbeschadiging en het risico op zelfmoord.
De verdachten die in de aanvankelijke rechtszaak van KGM werden genoemd, waren Bytedance, de voormalige meerderheidsaandeelhouder van TikTok; Snap, eigenaar van Snapchat; Google, de eigenaar van YouTube; en Meta. Beide Snap en TikTok schikte de rechtszaak in de dagen voorafgaand aan de juryselectie voor niet bekendgemaakte bedragen, waardoor alleen Meta en Google overbleven.
De resultaten van deze eerste beslissingen zullen naar verwachting dienen als proeftuin voor een tweede reeks federale zaken, die deze zomer voor de rechter staan, waarin verschillende schooldistricten, staten en procureurs-generaal van plan zijn te betogen dat sociale media een maatschappelijke overlast en verslavend voor kinderen.
Aan de basis van al deze zaken ligt een op design gebaseerde claim: deze technologiebedrijven gebruiken opzettelijk ontworpen trucs om verslavend gedrag onder jonge gebruikers te bevorderen. Gerechtsdocumenten wijzen op verschillende specifieke keuzes voor gebruikerservaring (UX) als bewijs van dit patroon. Hier zijn enkele van de belangrijkste voorbeelden in kwestie.
Eindeloos scrollen
“Eindeloos (of oneindig) scrollen” is een van de voornaamste zorgen in bijna alle ingediende zaken. Het verwijst naar elke functie waarmee gebruikers continu en zonder onderbrekingen door video-inhoud kunnen scrollen.
Eén gerechtelijk documentingediend door het kantoor van de procureur-generaal van Florida tegen Meta, beweert dat oneindig scrollen “het voor jonge gebruikers moeilijk maakt om zich los te maken van de inhoud, omdat er geen natuurlijk eindpunt is voor de weergave van nieuwe informatie.”
In een rechtszaak vóór de schikking van Bytedance getuigde KGM dat de eindeloze scrollfunctie van TikTok haar slaap verstoorde en ervoor zorgde dat ze verslaafd raakte aan de app. Dat blijkt uit vertrouwelijke interne berichten verkregen door NPR in oktoberTikTok is zich bewust van het verslavende karakter van de centrale ‘Explore’-pagina met eindeloze scrollen en heeft zelfs berekend dat het aantal video’s dat nodig is om verslaafd te raken aan de app 260 bedraagt.
Kortstondige inhoud
Een ander patroon van sociale media-ontwerp dat vaak wordt aangehaald in deze juridische documenten is ‘efemere inhoud’. Dit verwijst naar elk soort bericht dat alleen onder bepaalde tijdsparameters kan worden bekeken, zoals een eenmalige weergave op Snapchat of een 24-uurs Instagram-verhaal.
Het kantoor van de procureur-generaal van Florida maakte specifiek melding van Meta’s visuele ontwerpkenmerken op Instagram Stories, die aangaven dat “de inhoud spoedig voor altijd zou verdwijnen”, en merkte op dat deze tactiek ervoor zorgde dat jonge gebruikers zich meer gedwongen voelden om op nieuwe inhoud te blijven klikken om mogelijke sociale gevolgen te vermijden.
“Meta ontwierp dergelijke kortstondige inhoudskenmerken om bij jonge gebruikers een gevoel van ‘FOMO’ op te wekken, dat wil zeggen een ‘angst om iets te missen’, wat de betrokkenheid van tieners zou vergroten”, aldus het dossier.
Algoritmische aanbevelingen
Een van de meest zorgwekkende details in de getuigenis van KGM betreft de algoritmische aanbevelingen die ze op sociale media tegenkwam en die haar volgens haar herhaaldelijk naar inhoud met verontrustende of schadelijke thema’s hebben geleid.
“Ik heb veel inhoud gekregen waarin dit soort dingen wordt gepromoot – net zoals body checking, berichten over wat ik op een dag eet – gewoon een komkommer – waardoor mensen zich slecht voelen als ze niet zo eten”, zei ze in haar verklaring.
Volgens de documenten van de procureur-generaal van Florida leiden de algoritmen van Meta gebruikers door hun ontwerp naar dit soort inhoud. De platforms, zo luidt het document, ‘presenteren gebruikers periodiek met ‘emotioneel aangrijpende inhoud om intense reacties uit te lokken’ (bijvoorbeeld met betrekking tot eetstoornissen, zelfbeschadiging, zelfmoord, geweld, problemen met het lichaamsbeeld en meer), een resultaat van wat Meta naar verluidt de ‘voorkeursversterking’ van de algoritmen noemt. Ondanks de beweringen van Meta dat het tegendeel wordt beweerd, resulteert dit ontwerp in schade voor jonge gebruikers.”
Op hun beurt baseren de advocaten van KGM hun argumenten op precedenten uit het verleden die zijn geschapen door zaken waarin werd geoordeeld dat producten met een doelbewust verslavend ontwerp verboden terrein zouden moeten zijn voor kinderen.
“Door zwaar te leunen op de gedrags- en neurobiologische technieken die worden gebruikt door gokautomaten en uitgebuit door de sigarettenindustrie, hebben beklaagden opzettelijk een reeks ontwerpkenmerken in hun producten ingebed die gericht zijn op het maximaliseren van de betrokkenheid van jongeren om de advertentie-inkomsten te verhogen,” zo beweert de rechtszaak. Het voegt eraan toe: “Net als de sigarettenindustrie een generatie eerder, begrijpen (d)beklaagden dat een kindergebruiker vandaag een volwassen gebruiker morgen wordt.”
