Families herenigen met hun verloren puppy’s, wat is er niet leuk aan? Gecoördineerde buurtbewaking bijvoorbeeld.
Dat vat de reactie samen op de Super Bowl-advertentie voor Search Party, de AI-aangedreven functie van Amazon’s Ring die buitencamera’s in een buurt mobiliseert om verloren honden te helpen vinden.
Search Party heeft daarbij zorgen over de privacy geuit vorig jaar gelanceerdwaarbij de nadruk gedeeltelijk ligt op het feit dat de functie dat wel is standaard ingeschakeld in in aanmerking komende camera’s, waarbij gebruikers zich moeten afmelden. Maar zoals met de meeste dingen, bracht de spotlight tijdens de grootste game van het jaar het naar een geheel nieuw niveau.
Zo werkt het: wanneer iemand een verloren hond meldt in de Ring-app, gebruiken Ring-camera’s in de buurt waarvoor deze functie is ingeschakeld, AI om hun opgeslagen beelden te scannen op een mogelijke match.
Als een camera iets signaleert, krijgt de eigenaar van de camera (niet de eigenaar van de verloren hond) een melding. Vervolgens beslissen ze of ze de clip delen met de eigenaar van de hond. Niets wordt automatisch gedeeld. De zoekopdracht is tijdelijk en vervalt na een paar uur, tenzij deze wordt verlengd.
Dat soort subtiliteit vertaalt zich niet bepaald in een Super Bowl-spot van 30 seconden. Maar zelfs met een beter begrip van hoe het werkt, geloven critici het niet. De advertentie wordt bestempeld als ‘griezelig’ en ‘dystopisch’, waarbij critici wijzen op het voor de hand liggende: als de AI van Ring de camera’s van een buurt kan scannen op een specifieke hond, wat houdt hem dan tegen om hetzelfde te doen voor een specifieke persoon?
Voor de goede orde: Ring zegt dat Search Party niet is ontworpen om menselijke biometrie te verwerken, en dat de beelden van Search Party niet zijn opgenomen in de Community Requests-service van het bedrijf, waarmee wetshandhavers video kunnen opvragen voor vrijwillig delen door Ring-gebruikers.
In een interview met GeekWire vorig jaar beschreef Amazon VP en Ring-oprichter Jamie Siminoff (de man in de advertentie) de Search Party-functie als een doorbraak mogelijk gemaakt door de vooruitgang in AI, en zei dat deze zelfs twee jaar geleden niet tegen redelijke kosten had kunnen worden gebouwd.
Op de vraag hoe het bedrijf dit soort voordelen afweegt tegen privacykwesties, zei hij dat Ring’s aanpak erin bestaat klanten volledige controle te geven. ‘Je brengt het niet in evenwicht’, zei hij. “Je geeft 100% controle aan je klanten. Het zijn hun gegevens. Zij hebben er controle over.”
Maar voor critici gaat het niet echt om wat Search Party nu doet. Het gaat erom waar de onderliggende technologie in de toekomst voor gebruikt zou kunnen worden.
Die bezorgdheid wordt versterkt door de recente stappen van Ring zelf. Het bedrijf is ook uitgerold Bekende gezichtenwaarmee gebruikers afbeeldingen van familie en vrienden kunnen registreren, zodat hun camera’s specifieke mensen kunnen identificeren, maar beperkt tot degenen die de camera-eigenaar kent.
Ringen samenwerking met Flock Safetyhet kentekenherkenningsbedrijf dat door duizenden politiediensten wordt gebruikt, is een andere bliksemafleider, ook al zegt Ring dat de integratie nog niet live is. De samenwerking maakt deel uit van Ring’s Community Requests-tool, waarmee lokale wetshandhavers tijdens actieve onderzoeken beeldmateriaal kunnen opvragen van Ring-gebruikers in de buurt. Gebruikers kunnen ervoor kiezen deze verzoeken te negeren.
Het bedrijf zegt dat het geen partnerschap heeft met de Amerikaanse immigratie- en douanehandhaving en geen video deelt met het bureau. Maar groepen voor burgerlijke vrijheden, waaronder de ACLU, hebben zorgen geuit dat zodra de beelden de lokale politie bereiken, er geen garantie is dat deze daar blijven, vooral gezien de berichten dat sommige met Flock verbonden afdelingen zoekopdrachten voor ICE hebben uitgevoerd.
Siminoff, die vorig jaar na een onderbreking terugkeerde om Ring te leiden, is open geweest over het opnieuw omarmen van de oorspronkelijke missie van het bedrijf om buurten veiliger te maken, inclusief het herstellen van partnerschappen met wetshandhavingsinstanties die tijdens zijn afwezigheid waren teruggeschroefd.
In het GeekWire-interviewerkende hij dat niet iedereen binnen het bedrijf aan boord was van de verandering, maar zei dat hij “zeer overtuigd is van de impact die we met Ring kunnen hebben”, en op een veel snellere tijdlijn dan hij in het verleden misschien had gedacht, dankzij AI.
Amazon zegt dat Search Party dat heeft gedaan herenigd sinds de lancering meer dan één verloren hond per dag met hun families. Het bedrijf zegt 1 miljoen dollar toe om dierenasielen uit te rusten met Ring-camera’s. Maar de grotere vraag die de reactie aanwakkert, is of het vinden van verloren puppy’s vandaag de dag de infrastructuur opbouwt voor iets dat minder schattig en knuffelig is in de toekomst.
