Wat je thuis zegt, wat je zegt Doen bij u thuis. Privér dan dat wordt het niet. Maar volgens twee recente FTC-klachten: Amazone En Ring gebruikten deze zeer privégegevens – stemopnames verzameld door Alexa-stemassistent van Amazon en video’s verzameld door de op internet aangesloten huisbeveiligingscamera’s van Ring – om hun algoritmen te trainen en tegelijkertijd korte metten te maken met de privacy van klanten. Deze zaken zijn voor het eerst aangekondigd sinds de nieuwe FTC Biometrische beleidsverklaringbevatten belangrijke lessen voor bedrijven die AI, biometrische gegevens en andere gevoelige informatie gebruiken.
AI en privacy moeten hand in hand gaan. In dit tijdperk van AI willen ontwikkelaars steeds meer data – vaak, ongeacht de bron ervan. Maar wees voorzichtig bij het verzamelen of bewaren van consumentengegevens. Volgens de oneerlijkheidsnorm van Sectie 5 kijkt de FTC niet alleen naar de potentiële voordelen van AI, maar ook naar de kosten voor de consument. Volgens de klachten faalden Amazon en Ring voor die test. De FTC beweerde dat Ring’s datatoegangspraktijken spionage en intimidatie mogelijk maakten, terwijl Amazon’s permanente bewaring van spraakgegevens en slordige verwijderingspraktijken de stemopnames van consumenten blootstelden aan het risico van onnodige toegang van werknemers. De boodschap voor bedrijven: de FTC zal bedrijven verantwoordelijk houden voor de manier waarop zij de consumentengegevens verkrijgen, behouden en gebruiken die hun algoritmen aandrijven. Zoals de commissarissen het in hun gezamenlijke verklaring in de Alexa-kwestieis machinaal leren geen vrijbrief om de wet te overtreden.
Consumenten – en niet bedrijven – hebben controle over hun gegevens. Sommige bedrijven denken dat ze de persoonlijke gegevens waarover zij beschikken, mogen gebruiken voor welk doel dan ook. Niet zo snel. De FTC-klachten tegen Amazone En Ring duidelijk maken dat bedrijven die de rechten van consumenten op controle over hun gegevens negeren, dit op eigen risico doen. In haar klacht zegt de FTC dat Ring alle werknemers en aannemers toegang gaf tot de video’s van klanten om (onder andere) algoritmen te trainen met alleen ’toestemming’. Maar dat is niet genoeg om ervoor te zorgen dat gebruikers echt controle hebben over wat er met hun informatie gebeurt. En in de Amazon-klacht zegt de FTC dat Amazon de rechten van ouders ondermijnt Regel voor de online privacybescherming van kinderen (COPPA). om de stemopnames van hun kinderen te verwijderen. Ouders hebben op grond van de COPPA-regel het recht om te beslissen welke gegevens over hun kinderen door een bedrijf worden opgeslagen en welke gegevens worden verwijderd. Het resultaat is duidelijk: elk bedrijf dat de controle van de consument over zijn gegevens ondermijnt, kan te maken krijgen met handhavingsmaatregelen van de FTC.
Zorg voor speciale waarborgen voor menselijke beoordeling en de toegang van medewerkers tot gevoelige gegevens. AI-ontwikkelaars vertrouwen vaak op menselijke reviewers om de gegevens te taggen en te annoteren die machine learning-algoritmen trainen. Maar weten consumenten wanneer hun gegevens worden beoordeeld? In haar klacht zegt de FTC dat Ring deze recensie voor zijn klanten heeft verborgen en dat recensenten misbruik hebben gemaakt van hun toegang tot video’s van consumenten. Als gevolg hiervan kregen de klanten van Ring – voor wie Ring-producten werden gekocht meer beveiliging – werd uiteindelijk het doelwit van spionage en surveillance door Ring-medewerkers. In de Amazon-klacht staat ook dat Amazon geen passende controles heeft gebruikt om te beperken welke werknemers toegang hadden tot de spraakopnamen van Alexa-gebruikers, waardoor duizenden van de werknemers had toegang tot gevoelige stemopnames die ze niet nodig hadden. Bedrijven die afhankelijk zijn van menselijke beoordeling zijn zich ervan bewust dat waarborgen voor gevoelige gegevens, waaronder strikte toegangscontroles, geen bijzaak mogen zijn. Ze zouden de eerste stap moeten zijn.
De FTC beschermt biometrische gegevens. Vorige maand heeft de FTC een beleidsverklaring over de bescherming van biometrische gegevens. In deze verklaring wordt uitgelegd dat biometrische gegevens – of het nu gaat om vingerafdrukken en irisscans of video’s en stemopnames – de grootst mogelijke bescherming verdienen vanwege de inherente gevoeligheid ervan en de mogelijkheid van vooringenomenheid, discriminatie en ander schadelijk gebruik. De schikkingen van de FTC met Amazon en Ring onderstrepen dat wanneer de FTC zegt dat de bescherming van biometrische gegevens een prioriteit is, zij ook meent wat zij zegt – en dat de Commissie dat beleid zal ondersteunen met handhavingsmaatregelen.
De FTC gebruikt elk beschikbaar hulpmiddel om de privacy van kinderen te beschermen. Na een reeks handhavingsacties over de privacy van kinderen en tieners (denk aan Microsoft, Epische spellen, Edmodo, Weight Watchers (Kurbo)En Chegg), moet het duidelijk zijn dat het beschermen van kinderen een topprioriteit van de FTC is. Dat geldt vooral op het snijvlak van AI en de privacy van kinderen en tieners. In de Amazon-klachtVolgens de FTC bewaarde Amazon de stemopnames van kinderen (zowel audiobestanden als transcripties) permanent en ondermijnde het de verwijderingsrechten van ouders. Volgens de klacht zou Amazon die gegevens vervolgens kunnen gebruiken voor natuurlijke taalverwerking. In de Ringklachtbeschrijft de FTC Ring’s arrogante benadering van privacy en veiligheid, ondanks het feit dat zijn camera’s op de markt werden gebracht om de kinderkamers te bewaken. Het antwoord van de FTC? Geen dobbelstenen. De FTC zal elk beschikbaar instrument gebruiken – inclusief de COPPA-regel en de verboden van de FTC Act op misleidende en oneerlijke praktijken – om de privacy van kinderen te beschermen.
Wilt u uw algoritmen en dataproducten behouden? Verkrijg de gegevens rechtmatig. Met Ring en Alexa, evenals Kromme, Cambridge AnalyticaEn Ooitalbumheeft de FTC talloze bevelen gekregen waarin bedrijven worden verplicht gegevens te verwijderen En gegevensproducten verwijderen of niet genereren, zoals algoritmen, modellen en andere hulpmiddelen die zijn afgeleid van onrechtmatig verkregen gegevens. Deze acties maken duidelijk dat er geen vrijkaarten zijn voor datamisbruik. Als u op illegale wijze consumentengegevens verkrijgt of misbruikt, kunt u mogelijk met uw dataproduct betalen.
