Moxie Marlinspike, de privacyadvocaat die de app voor veilige communicatie heeft gemaakt Signaal en het veelgebruikte open source-coderingsprotocol, gezegd deze week dat zijn op privacy gerichte AI-platform, Verlenenzal zijn technologie gaan integreren in de AI-systemen van Meta.
Elke dag worden miljarden chatberichten verzonden via Signal, Meta’s WhatsApp en Apple’s Berichten beschermd door end-to-end-codering. De functie, die het voor technologiebedrijven en iedereen anders dan de afzender en ontvanger onmogelijk maakt om in uw berichten te snuffelen, is de afgelopen tien jaar mainstream geworden. Nu generatieve AI-platforms echter steeds populairder worden, wisselen mensen nu ook miljarden berichten per dag uit met AI-chatbots die niet de bescherming bieden van end-to-end-encryptie, waardoor het voor AI-bedrijven gemakkelijk wordt om toegang te krijgen tot waar u het over hebt.
Dit is inherent aan het ontwerp, aangezien platforms hun AI-modellen vaak willen trainen op zoveel mogelijk gebruikersgegevens en deze ook hebben gemaakt moeilijk om je af te melden het laten gebruiken van uw gegevens als trainingsgegevens. Maar zoals chatbots en AI-agenten sommigen zijn capabeler geworden technologen en bedrijven dringen aan op het creëren van meer beperkte en op privacy gerichte systemen.
“Aangezien LLM’s steeds meer kunnen doen, mogen we verwachten dat er nog meer data naar hen zullen stromen”, schreef Marlinspike in een artikel. korte blogpost over zijn samenwerking met Meta dinsdag gepubliceerd. “Op dit moment zijn geen van die gegevens privé. Ze worden gedeeld met AI-bedrijven, hun werknemers, hackers, dagvaardingen en overheden. Zoals altijd het geval is met niet-versleutelde gegevens, zullen ze onvermijdelijk in verkeerde handen terechtkomen.”
Marlinspike schreef dat hij “zal werken aan de integratie van de privacytechnologie van Confer, zodat deze de basis vormt voor Meta AI.” Hij benadrukte ook dat Confer, die debuteerde zal begin dit jaar onafhankelijk van Meta blijven opereren. Het doel van het project, zo voegde Marlinspike toe, is om een technologie aan te bieden waarmee “iedereen de volledige kracht van AI kan benutten, samen met de volledige privacy van een gecodeerd gesprek.”
In 2016 werkte Marlinspike samen met WhatsApp, eigendom van Meta, om end-to-end-encryptie uit te rollen naar meer dan een miljard rekeningen tegelijk. Het afgelopen jaar heeft WhatsApp een Meta AI-chatbot in zijn app geïntroduceerd, wat niet het geval is afgeschermd van het bedrijf op dezelfde manier als individuele chats.
“Mensen gebruiken AI op manieren die zeer persoonlijk zijn en toegang vereisen tot vertrouwelijke informatie”, zegt WhatsApp-hoofd Will Cathcart schreef woensdag op het social media platform X over de samenwerking met Confer. “Het is belangrijk dat we die technologie zo bouwen dat mensen de macht krijgen om dat privé te doen.”
De adoptie van gecodeerde AI is nog steeds in opkomst. De cryptografische schema’s die worden gebruikt bij end-to-end-encryptie voor traditionele digitale communicatie zijn niet gemakkelijk of direct vertaalbaar in gegevensbescherming voor generatieve AI. Confer is op zijn beurt nog steeds een nieuw project en de blogpost van Marlinspike gaf geen specifieke details over hoe de samenwerking met Meta precies zal werken of wat de specifieke doelstellingen zijn voor de integratie.
Noch Marlinspike, noch Meta hebben WIRED voorafgaand aan de publicatie van aanvullend commentaar voorzien.
Mallory Knodel, een cryptografieonderzoeker aan de New York University, zegt dat het “geweldig zou zijn voor mensen die chatbots gebruiken die Meta AI gebruiken om vertrouwelijkheid en privacy te hebben binnen die uitwisseling.” Cruciaal is dat dit betekent dat Meta geen toegang zou hebben tot AI-chatgegevens voor training, zegt Knodel, die samen met collega’s onlangs een rapport publiceerde onderzoek naar end-to-end-encryptie en AI. “Ik hoop echt dat meer AI-chatbots deze aanpak zullen omarmen.”
Knodel’s voorlopige, initiële beoordelingen van Confer aanwijzen dat het platform niet perfect is, maar een belangrijk voorbeeld is van hoe je een privé AI-chatbot kunt bouwen.
