Veel commentatoren heb March gebeld Oordeel van de jury in Californiëwaarbij Meta en Google aansprakelijk worden gesteld voor het ontwerpen van verslavende platforms die kinderen schaden, sociale media’sgroot tabaksmoment.” De vergelijking is treffend, maar niet helemaal zoals de meeste mensen het bedoelen.
Het verhaal over tabakszaken wordt meestal triomfantelijk verteld, met een kwaadwillige industrie die ter verantwoording wordt geroepen, slachtoffers die gelijk krijgen en een gevaarlijk product dat nu gereguleerd is. Wat dat verhaal weglaat is direct relevant naar wat er daarna gebeurt met sociale media.
De tabaksprocedure slaagde niet omdat sigaretten verslavend waren, maar omdat de industrie fraude had gepleegd. Decennia lang waren tabaksfabrikanten op de hoogte van de verslavende eigenschappen van nicotine en het verband tussen roken en kanker, en ze hielden die kennis actief verborgen. De rechtszaken die werkten, waren de rechtszaken die direct achter de verhulling aan gingen. Maar toen die verhulling eenmaal aan het licht kwam en openbaarmaking verplicht werd, werd het verhaal van persoonlijke verantwoordelijkheid opnieuw bevestigd: volwassenen die roken kennen de risico’s en kiezen ervoor om toch te roken.
De verwerkte voedingsmiddelenindustrie volgde een vrijwel identiek traject. In de jaren zeventig dienden consumentenvoorvechters een verzoekschrift in bij de Federal Trade Commission om reclame voor junkfood te beperken tot kinderen. De sector vocht hard terug. A Washington PosHet hoofdartikel noemde het voorstel een maatregel om “kinderen te beschermen tegen de zwakheden van hun ouders.” Tientallen jaren later kwam er een wetsvoorstel dat fastfoodbedrijven formeel beschermt tegen rechtszaken tegen obesitas de Kamer gepasseerd. Het bleef steken in de Senaat, maar de industrie slaagde erin soortgelijke wetten door te voeren in staten in het hele land. De boodschap was dat zwaarlijvigheid een kwestie van wilskracht was. Ondanks goed gedocumenteerde sociaal-ecologische determinanten van voeding bleef het verhaal van persoonlijke verantwoordelijkheid hangen.
Het vonnis van vorige maand wordt geprezen als een breuk in dat patroon, maar ik ben er niet van overtuigd dat dit zo is.
Het patroon in tabak en bewerkte voedingsmiddelen suggereert een voorspelbaar traject voor sociale media. Meta’s interne onderzoek documenteert de schade aan tienermeisjesdie werden onderdrukt en vervolgens blootgelegd, was het grote tabaksmoment. De rechtszaak die volgde weerspiegelt die afrekening. Maar zoals het verhaal van tabak en bewerkte voedingsmiddelen aantoonde, komen na blootstelling onthullingen en waarschuwingen, en bovenal een herbevestiging van persoonlijke verantwoordelijkheid. Het onderliggende product blijft zoals het was.
De oplossingen die al rond het oordeel van de sociale media worden geopperd, volgen precies dat patroon. Leeftijdsverificatie, ouderlijk toezicht, instellingen voor pushmeldingen en diverse openbaarmakingen leggen allemaal de last van de bescherming op de schouders van individuele gebruikers (of hun ouders), terwijl de ontwerpkeuzes die volgens de jury onredelijk gevaarlijk zijn, precies daar blijven waar ze zijn. Het gaat allemaal terug op het ‘notice-and-consens’-model, het idee dat geïnformeerde individuen hun eigen blootstelling aan schade kunnen en moeten beheren.
Dit raamwerk, dat decennia lang de Amerikaanse wetgeving inzake consumentenbescherming heeft gedomineerd, werkt goed voor industrieën die aansprakelijkheid willen vermijden zonder hun bedrijfsmodellen te veranderen. Het werkt minder goed voor de mensen die het zou moeten beschermen, van wie wordt gevraagd om voor zichzelf op te komen tegen platforms die zijn ontworpen – door zeer slimme mensen met zeer grote budgetten – om moeilijk neer te zetten.
Het voor de hand liggende tegenargument is dat het opnieuw ontwerpen van deze platforms iedereen zou schaden als hij een subgroep van gebruikers zou helpen die schade ondervonden. Maar dit bezwaar verwart het product met zijn meest schadelijke eigenschappen. Niemand heeft een algoritmisch geoptimaliseerde pushmelding nodig om in contact te blijven met zijn vrienden, en de betrokkenheidssystemen die zijn gekalibreerd om mensen voorbij het punt te laten scrollen waar ze willen stoppen, zijn niet wat sociale media waardevol maakt.
Het weglaten van dergelijke kenmerken staat niet gelijk aan het vernietigen van het product. Het lijkt meer op wat er gebeurde toen fabrikanten lood uit verf haalden. De verf werkte nog goed. Het is gewoon gestopt met het vergiftigen van mensen.
Het onderscheid tussen een product en de schadelijke kenmerken ervan is hetzelfde onderscheid waarop de wetgeving inzake productaansprakelijkheid is gebaseerd. Bij productaansprakelijkheid wordt lange tijd onderscheid gemaakt tussen twee soorten gebreken. Een waarschuwingsfout betekent dat het product gevaarlijk is, maar een goed etiket kan het veilig genoeg maken. Een ontwerpfout betekent dat het product zelf onredelijk gevaarlijk is, en geen enkel etiket kan dit verhelpen.
Een jury heeft zojuist besloten dat deze platforms in de tweede categorie vallen. Het juridisch eerlijke antwoord op deze bevinding zou geen betere waarschuwing moeten zijn, maar een veiliger product.
Het vonnis van vorige week zette die deur open. De vraag is nu of rechtbanken, toezichthouders en wetgevers de bereidheid hebben om er doorheen te lopen, of dat we, zoals gebeurde met tabak en bewerkte voedingsmiddelen, genoegen zullen nemen met waarschuwingsetiketten en het hervorming zullen noemen.
