Bovenmenselijk, de technologie bedrijf achter de software schrijven Grammaticaal wordt geconfronteerd met een class action-rechtszaak boven een AI-hulpmiddelen die bewerkingssuggesties presenteerden alsof ze afkomstig waren van gevestigde auteurs en academici, die er geen van allen mee instemden dat hun naam in het product zou verschijnen.
Julia Angwin, een bekroonde onderzoeksjournalist die The Markup heeft opgericht, een non-profit nieuwsorganisatie die verslag doet van de impact van technologie op de samenleving, is de enige met naam genoemde eiser in de rechtszaak, die niet om een specifiek bedrag aan schadevergoeding vraagt, maar stelt dat de schadevergoeding in de hele klasse van eisers meer dan $ 5 miljoen bedraagt. Ze was een van de vele mensen die, naast Stephen King en Neil deGrasse Tyson, via Grammarly’s ‘Expert Review’-tool werden aangeboden als een soort virtuele editor voor gebruikers.
De federale rechtszaak, woensdagmiddag aangespannen in het zuidelijke district van New York, stelt dat Angwin, namens haarzelf en anderen in soortgelijke situaties, “de verduistering door Grammarly van de namen en identiteiten van honderden journalisten, auteurs, schrijvers en redacteuren aanvecht om winst te maken voor Grammarly en zijn eigenaar, Superhuman.”
De klacht komt omdat Superhuman al heeft besloten de functie stop te zetten, te midden van aanzienlijke publieke reacties. “Na zorgvuldige overweging hebben we besloten Expert Review uit te schakelen, omdat we de functie opnieuw bedenken om deze nuttiger te maken voor gebruikers, terwijl we experts echte controle geven over hoe ze vertegenwoordigd willen worden – of helemaal niet vertegenwoordigd willen worden”, zegt Ailian Gan, directeur productbeheer van Superhuman, in een verklaring aan WIRED kort voordat de claim werd ingediend. “We hebben de agent gebouwd om gebruikers te helpen gebruik te maken van de inzichten van opinieleiders en experts en om experts nieuwe manieren te bieden om hun kennis te delen en een nieuw publiek te bereiken. Op basis van de feedback die we hebben ontvangen, hebben we duidelijk de plank misgeslagen. Het spijt ons en we zullen de zaken in de toekomst anders aanpakken.”
Zoals BEDRAAD eerder deze maand gemeldheeft Superhuman vorig jaar een reeks AI-aangedreven widgets aan het platform toegevoegd, waaronder een die beweerde een ervaren schrijver (levend of dood) te laten meewegen met kritiek op de tekst van de gebruiker. Hoewel een disclaimer verduidelijkte dat geen van de genoemde mensen de ontwikkeling van dit hulpmiddel, dat gebruik maakte van een onderliggend groot taalmodel, had gesteund of er rechtstreeks aan had deelgenomen, hebben verschillende schrijvers, inclusief WIRED-journalistenuitten hun frustratie over het feit dat Grammarly hun gelijkenissen aanriep en blijkbaar hun levenswerk met deze AI-agenten opnieuw uitbrak.
Angwins advocaat Peter Romer-Friedman zegt dat al lang bestaande wetten in New York en Californië, waar Superhuman is gevestigd, het commerciële gebruik van iemands naam en beeltenis zonder hun toestemming duidelijk verbieden. “Juridisch gezien denken we dat het een vrij eenvoudige zaak is”, vertelt hij aan WIRED. “Meer in het algemeen is een van de redenen waarom we deze zaak indienen, dat we kunnen zien wat er in onze samenleving gebeurt: dat veel professionals die jarenlang, of in het geval van Julia, tientallen jaren bezig zijn met het aanscherpen van een vaardigheid of een vak, vervolgens zien dat hun naam of hun vaardigheden zonder hun toestemming door anderen worden toegeëigend.”
Als opinieschrijver voor de New York Times heeft Angwin uitgebreid geschreven over hoe de giganten uit Silicon Valley de privacy in de 21e eeuw hebben uitgehold.
“In tegenstelling tot de schijnbare overtuiging van sommige technologiebedrijven, is het onwettig om de namen en identiteiten van mensen voor commerciële doeleinden toe te eigenen, ongeacht of die mensen beroemd zijn of niet”, aldus de rechtszaak. “Door deze actie probeert mevrouw Angwin te voorkomen dat Grammarly en zijn eigenaar, Superhuman, handelen op haar naam en die van honderden andere journalisten, auteurs, redacteuren en zelfs advocaten, en om Grammarly ervan te weerhouden woorden aan hen toe te schrijven die ze nooit hebben geuit en advies dat ze nooit hebben gegeven.”
Angwin vertelt WIRED dat toen ze via de technische nieuwsbrief Platformer hoorde dat Grammarly haar naam en reputatie gebruikte, ze verrast was dat ze als het ware gekloond was. “Weet je, deepfakes zijn iets waarvan ik altijd denk dat beroemdheden betrokken raken, en niet reguliere journalisten”, zegt ze. “Ik had zoiets van: hou je me voor de gek?”
