Meta heeft mij zijn Smart Glasses AI-privacybeleid uitgelegd. Ik ben nog steeds bezorgd

Ik draag Ray-Bans van Meta af en toe aan als ik op reis ben om foto’s te maken, te bellen en naar muziek te luisteren. De technologie is fascinerend, leuk en handig.

Ik wist ook dat het privacybeleid van Meta een probleem zou kunnen zijn, maar nu maak ik me er meer zorgen over dan ooit tevoren.

Mijn zorgen namen toe na een aantal vrienden en collega’s deelde een rapport over de externe contractanten van Meta in Kenia die gevoelige informatie konden bekijken, zoals foto’s van bankgegevens, naaktheid en seksuele ontmoetingen die waren opgenomen op een Meta-bril (wat heeft geresulteerd in een class action-rechtszaak).

Welke grenzen had Meta ingesteld om de privacy van mensen te beschermen? Ik heb me verdiept Meta’s servicevoorwaarden online en in de Meta AI-app, maar dat hielp niet.

Ik wilde wat antwoorden. Dus nam ik contact op met Meta’s communicatieteam om duidelijkheid te krijgen.

Maar zelfs nadat ik het officiële antwoord van Meta heb gekregen over waar de grenzen worden getrokken, ben ik nog steeds gefrustreerd en onzeker. Terwijl veel mensen zich terecht zorgen maken over iemand ze in het geheim opnemen met een slimme briler is ook nog een andere rimpel: wanneer deelt deze bril mogelijk wat je hebt opgenomen met anderen?

Hier is een kort antwoord: hebben de brillen van Meta externe contractanten die mogelijk uw gegevens bekijken? Ja, soms – als u AI-services gebruikt. Als je deze AI-services niet gebruikt, zou het volgens Meta in orde moeten zijn. Maar zelfs dan weet ik niet waar die ‘AI-diensten’-muur duidelijk wordt getrokken. En dat is een van mijn grootste zorgen.

Meta heeft een lange geschiedenis van problemen met zowel privacy als vertrouwen, die zich uitstrekt tot in de afgelopen tien jaar Cambridge Analytica-schandaal. Die problemen zijn niet aan de orde geweest Meta’s VR-headsetsdie niet over veel AI-diensten voor het verzamelen van gegevens beschikken, maar de slimme bril van het bedrijf wel. En deze diensten zullen de komende jaren blijven groeien en steeds capabeler worden. Meta’s populaire Ray-Ban-bril – meer dan 7 miljoen paar werden vorig jaar verkocht – zijn de koplopers in een hele golf van camera-enabled AI-brillen en draagbare apparaten afkomstig van een aantal bedrijven, met Google komt in de mix later dit jaar.

Als je geïnteresseerd bent in de bril van Meta, die, als technische prestatie, de beste kwaliteit camera en audio-ondersteuning heeft slimme bril Op dit moment moet u deze zorgen in gedachten houden. En nu slimme brillen zich gaan richten op apparaten die altijd aan staan, zullen we alleen maar meer vragen tegenkomen over hoe comfortabel u zich voelt bij het leunen op hun diensten – en wat alle cloudgebaseerde AI-technologiebedrijven moeten doen om dit beleid duidelijker te maken.

Hieronder ga ik de antwoorden van Meta uitvoerig delen, zodat u mijn redenering kunt begrijpen – en ook uw eigen inschatting kunt maken van de risico’s.

AI-services gebruiken met Meta Ray-Bans

Als u AI gebruikt, bijvoorbeeld om iets te analyseren dat u ziet of om een ​​vertaling te krijgen, kijken externe contractanten mogelijk naar wat u opneemt.

Dit is wat het bedrijf me vertelde: “Met een Ray-Ban Meta-bril kun je AI handsfree gebruiken om vragen over de wereld om je heen te beantwoorden. Tenzij gebruikers ervoor kiezen om de media die ze hebben vastgelegd met Meta of anderen te delen, blijven die media op het apparaat van de gebruiker staan.”

Maar dan is er dit: “Als mensen inhoud delen met Meta AI, gebruiken we soms aannemers om deze gegevens te beoordelen met als doel de ervaring van mensen te verbeteren, zoals veel andere bedrijven doen. We ondernemen stappen om deze gegevens te filteren om de privacy van mensen te beschermen en om te voorkomen dat identificerende informatie wordt beoordeeld.”

De veronderstelling die u hieruit kunt maken, is dat Meta, elke keer dat u de AI-diensten van Meta gebruikt, mogelijk externe contractanten gebruikt om de informatie te beoordelen.

Hoewel Meta belooft dat de informatie op de juiste manier wordt gefilterd om gevoelige gegevens of details te verwijderen, zei dat zorgwekkende nieuwsrapport dat aannemers in Kenia beelden van een bril annoteerden met gevoelige afbeeldingen die duidelijk zichtbaar waren.

Dat baart mij vooral zorgen over wat er gebeurt als mensen Meta AI gebruiken voor ondersteunende doeleinden: namelijk als een manier om te ‘zien’ als je dat niet met je eigen ogen kunt. Zou het bekijken van persoonlijke documenten en het teruglezen ervan riskant zijn? Omdat Meta geen enkele vorm van gecodeerde, privé-AI-functies op zijn bril heeft geïntroduceerd, zou dit wel eens kunnen gebeuren.

Meta zegt dit over privacybescherming: “We hebben strikte beleidsmaatregelen en vangrails die opzettelijk beperken wat informatiecontractanten zien.”

Maar nogmaals, ik weet eigenlijk niet wat dat strikte beleid of de vangrails zijn.

“We ondernemen stappen om deze gegevens te filteren om de privacy van mensen te beschermen en om te voorkomen dat identificerende informatie wordt beoordeeld”, voegde Meta eraan toe.

Dit helpt niet om de details te verduidelijken. Ik ga hier uit van vertrouwen, wat helemaal niet ideaal is.

Ik moet ervan uitgaan dat alles wat via cloud AI-diensten wordt gedaan, zoals Meta gebruikt, tot op zekere hoogte gezien kan worden door externe contractanten. En dat zou jij ook moeten doen.

Foto’s en video’s maken met Meta’s Ray-Bans

Meta’s bril maakt niet altijd gebruik van AI, en ik ook niet. Sterker nog, ik gebruik Meta’s bril vooral om foto’s en video’s op te nemen, naar muziek te luisteren en te bellen. Ik gebruik de AI niet veel, deels omdat Meta’s AI heel weinig interactie heeft met of controle heeft over mijn andere persoonlijke gegevens of zelfs mijn iPhone.

Voor niet-AI-foto- en video-opnamen moeten de zaken veilig zijn… denk ik.

Ik vroeg leden van het communicatieteam of foto- of video-opnamen die ik met de bril maakte en die niet betrokken waren bij op AI gebaseerde aanroepen, konden worden bekeken door externe contractanten. Ze zeiden dit: “Voor alle duidelijkheid: de foto’s en video’s die gebruikers maken met hun AI-bril en die eenvoudigweg op de camerarol van hun telefoon zijn opgeslagen, zijn niet gebruikt door Meta om AI te ontwikkelen en te verbeteren. Als u alleen een video opneemt of een foto maakt met de cameraknop op de bril, blijft dat medium op uw telefoon staan. Tenzij je ervoor kiest om de media die je hebt vastgelegd te delen met Meta of anderen, blijven die media op je apparaat staan.”

Dat klonk veelbelovend. Maar met de brilinstellingen van Meta wordt de opslag een beetje troebel… letterlijk. In de Meta AI-app Bril Privacy-instellingen claimt een Cloud Media-schakelaar “toe te staan ​​dat uw foto’s en video’s naar de cloud van Meta worden verzonden voor verwerking en tijdelijke opslag.”

Zouden cloudmedia betekenen dat mijn persoonlijke foto’s en video’s openstaan ​​voor eventuele annotaties van externe contractanten? Volgens Meta niet. Volgens Meta zullen alle opdrachten die AI gebruiken om foto’s te verzenden of Autocapture-modi gebruiken die worden ingeschakeld door Cloud Media in te schakelen, ook veilig zijn.

In de woorden van het bedrijf: “Voor bepaalde functies, zoals delen vanaf je bril met je stem (‘Hey Meta, stuur een foto’), naadloos automatisch importeren van media, of Autocapture, waarbij de camera automatisch foto’s of video’s maakt wanneer je de functie start (handig voor momenten waarop je misschien inhoud wilt vastleggen zonder de camera handmatig te activeren via de knop of stem), kan het nodig zijn om je foto’s en video’s naar de cloud van Meta te sturen voor verwerking en tijdelijke opslag. Als je je inschrijft voor cloudmediadiensten, worden de foto’s en video’s verzonden van de frames of automatisch geïmporteerd naar uw telefoon zijn niet onderhevig aan menselijke annotatie. Het inschakelen van cloudmediaservices is opt-in en niet standaard ingeschakeld.

Meta definieert niet duidelijk wat “Cloud Media” precies is, behalve een tijdelijke opslagplek voor uw foto’s en video’s, zodat deze met spraakopdrachten kunnen worden verwerkt. En wat mij zorgen baart, is hoe er een muur wordt getrokken rond ‘private’ versus ‘AI-verbonden’ media. Ik wil Cloud Media daarom uitschakelen, wat zou betekenen dat de foto’s en video’s alleen in de fotobibliotheek van mijn telefoon worden opgeslagen.

Wat moet er nu aan de AI-bril worden gedaan?

Ik ben nog steeds dol op de camera- en audiofuncties van een slimme bril en ben geïntrigeerd door de AI-functies die eraan komen. Maar ik maak me ook grote zorgen over de onzekerheid over waar de grens wordt getrokken tussen wat mogelijk door een derde partij wordt geannoteerd en wat privé blijft. Meta gebruikt deze derde partijen om AI te helpen trainen, of om mogelijk inhoud te modereren. Het herinnert ons eraan hoe cloudgebaseerd en buiten onze controle zoveel AI-diensten zijn.

Ik maak me nog meer zorgen als ik denk aan berichten dat Meta dat wil gezichtsherkenning toevoegen en meer aan zijn slimme bril.

Ondertussen komen er steeds meer AI-brillen en draagbare AI-apparaten met camera’s. Google is de volgende. En al deze bedrijven moeten veel duidelijker maken hoe ze de gegevens van deze apparaten gebruiken, hoe ze onze privacykwesties beschermen en hoe wij gebruikers deze kunnen beheren – of helemaal niet. Het is helemaal niet eenvoudig om te begrijpen hoe de bril van Meta met AI-gegevens omgaat, of waar deze naartoe worden verzonden. Ik hoop dat dit verhaal je helpt beter te begrijpen waar de grenzen kunnen liggen.

Toch moet ik toegeven dat ik minder geneigd ben om Meta’s bril te gebruiken voor iets persoonlijks of gegevensgevoeligs. Vakantiebril? Een tool voor snelle social beelden voor op het werk, ik zend toch uit? Experimenten met AI? Ik denk het wel.

Maar als Meta een diepgaand hulpmiddel voor ons wil zijn via AI-wearables, en niet wil dat iedereen noemde ze ‘perverse brillen’, wat mensen al zijn, het moet beter en sneller gebeuren.