Een paar historische rechtszaken heeft Meta en YouTube vorige week schuldig bevonden aan het schaden van jonge gebruikers door algoritmen te ontwerpen die verslavend waren en tot geestelijke gezondheidsproblemen leidden. De aan de bedrijven opgelegde schadevergoeding bedroeg een fractie van een procent van hun jaarinkomsten. De gevolgen op de lange termijn kunnen echter veel groter zijn.
Uit de uitspraken bleek dat geprogrammeerde algoritmen niet worden beschermd door Sectie 230, de federale wet dat sociale-mediabedrijven beschermt tegen aansprakelijkheid voor door gebruikers geplaatste inhoud. Dat is een scheur in de juridische verdediging waar deze bedrijven al jaren op vertrouwen. En duizenden soortgelijke zaken zijn al in behandeling.
Sectie 230 ligt al enige tijd onder de loep. Wetgevers hebben herhaaldelijk opgeroepen tot de intrekking ervan, hoewel de inspanningen tot nu toe geen succes hebben opgeleverd. Velen in het Congres lijken de dreiging van intrekking te zien als een hefboom, in de hoop dat dit technologiebedrijven ertoe zal aanzetten te onderhandelen over veranderingen die weerspiegelen hoe het internet zich heeft ontwikkeld sinds de wet werd aangenomen.
“Sectie 230 werd gecreëerd tijdens de vroege opkomst van het internet, toen wetgevers opkomende onlinebedrijven de ruimte probeerden te geven om te innoveren en te experimenteren met technologieën die het publiek en beleidsmakers nauwelijks begrepen”, zegt JB Branch. AI Bestuurs- en technologiebeleidsadviseur bij Public Citizen. “Het was nooit bedoeld als permanent juridisch schild voor enkele van de machtigste bedrijven ter wereld.”
Het argument herformuleren
Heeft Sectie 230 zijn beschermende kracht verloren? Nog niet.
Het uitgangspunt van de wet geldt nog steeds: bedrijven zijn niet aansprakelijk voor door gebruikers gegenereerde inhoud. Wat is veranderd, is de manier waarop eisers die bescherming kunnen omzeilen. De nieuwe cases richten zich minder op wat gebruikers posten en meer op hoe platforms zijn ontworpen.
Met andere woorden, productontwerp kan de grootste juridische kwetsbaarheid zijn.
“CEO’s als Mark Zuckerberg, Tim Cook en Evan Spiegel moeten heroverwegen hoe ze producten ontwerpen die kinderen gebruiken, omdat ze zich niet langer volledig kunnen verschuilen achter Section 230”, zegt Sarah Gardner, CEO van Heat Initiative, een organisatie die zich richt op online veiligheid voor kinderen.
Deze verschuiving gaat ervan uit dat de uitspraken hoger beroep overleven. Van Meta en YouTube wordt verwacht dat ze de beslissingen zullen aanvechten en waarschijnlijk een jarenlange juridische strijd zullen ontketenen uiteindelijk bereiken het Hooggerechtshof. Toch is het bredere debat al begonnen.
Gedwongen verantwoording
De gevolgen zijn aanzienlijk, vooral als het om jongere gebruikers gaat. De uitspraken duwen bedrijven in de richting van een niveau van verantwoordelijkheid dat in sommige opzichten het traject van de entertainmentindustrie voor volwassenen weerspiegelt.
Het is een imperfecte vergelijking, maar er zijn parallellen, zegt Ramnath Chellappa, professor aan de Goizueta School of Business van Emory University. Sites voor volwassenen moeten steeds vaker de leeftijd van gebruikers verifiëren. Soortgelijke mechanismen zouden kunnen ontstaan voor sociale media.
“Het mechanisme voor het monitoren… om ervoor te zorgen dat een minderjarige minderjarig is, enzovoort, is al een zeer complex onderwerp”, zegt hij. “Wat houdt dat in? Is daar een derde partij bij betrokken, of moet iemand de rijbewijsgegevens delen?”
Lexi Hazam van Lieff Cabraser Heimann & Bernstein, LLP, medeleider van de Social Media MDL, is het ermee eens dat de uitspraken grote operationele veranderingen kunnen afdwingen, hoewel ze geen directe vergelijking maakt.
“De implicaties zijn aanzienlijk en laten deze technologiegiganten zien dat geen enkel bedrijf boven verantwoordelijkheid staat als het om onze kinderen gaat”, zegt ze. “De bedrijven zullen in de toekomst opnieuw moeten beoordelen hoe ze hun platforms ontwerpen en exploiteren … waardoor de bedrijven mogelijk echte veranderingen moeten doorvoeren, waaronder een veiliger platformontwerp, effectieve leeftijdsverificatie en ouderlijk toezicht dat daadwerkelijk werkt om jonge gebruikers te beschermen.”
Niet iedereen ziet de verzwakking van Sectie 230 als gunstig. Critici beweren dat in het huidige debat de schade te veel wordt benadrukt, terwijl de voordelen over het hoofd worden gezien.
“Het publieke debat over sociale media en de geestelijke gezondheid van jongeren richt zich bijna uitsluitend op mogelijke schade”, schreven Ben Sperry en Sabrina Pekarovic van het International Center for Law & Economics in een recent essaymet het argument dat deze nadruk de manieren bagatelliseert waarop platforms zelfexpressie mogelijk kunnen maken en tieners met bredere gemeenschappen kunnen verbinden. Ze voegen eraan toe dat het behandelen van alle tieners als even kwetsbaar de kwestie te simpel maakt en niet door het bewijsmateriaal wordt ondersteund. “Algemene verboden gaan ervan uit dat alle tieners met vergelijkbare risico’s worden geconfronteerd en hetzelfde moeten worden behandeld”, schreven ze. “Het bewijs suggereert iets anders.”
Een groot tabaksmoment
Sommige waarnemers hebben de uitspraken vergeleken met een ‘Big Tobacco’-moment voor sociale media, een langverwachte afrekening die zou kunnen leiden tot ingrijpende regulering.
Dat kan wijzigingen in Sectie 230 omvatten of een bredere herziening van de manier waarop platforms werken. Beide uitkomsten zouden grote financiële gevolgen hebben voor bedrijven die lange tijd dominante spelers op Wall Street zijn geweest.
De potentiële impact op beleggers is aanzienlijk. Een rapport van de Computer and Communications Industry Association schat dat het intrekken van Sectie 230 investeerders 2,2 biljoen dollar zou kunnen kosten en zou kunnen leiden tot ongeveer 1,1 miljoen rechtszaken per jaar tegen digitale dienstverleners.
Sommige analisten zijn van mening dat de richting al duidelijk is.
“De gevolgen voor sociale netwerken zullen verwoestend zijn”, zegt Igor Pejic, een technologie-investeringsstrateeg en auteur van Technisch geld. “De regelgeving zal escaleren, net als bij de tabaksindustrie, en op een dag zullen we misschien dingen zien als de vereiste ID-authenticatie. Deze regelgevende trend zal de sociale media niet doden, maar ik geloof dat ze over een paar jaar op zijn minst hun status als Big Tech-bedrijf zullen verliezen.”
