Het tijdperk van de All-Access AI-agent is aangebroken

Jarenlang heeft de kosten voor het gebruik van “gratis” diensten van Googlen, Facebook, Microsoften andere Big Tech-bedrijven hebben uw gegevens overgedragen. Het uploaden van je leven naar de cloud en het gebruik van gratis technologie brengt gemak met zich mee, maar het brengt persoonlijke informatie in handen van gigantische bedrijven die er vaak geld mee willen verdienen. Nu, de volgende golf van generatieve AI systemen willen waarschijnlijk meer toegang tot uw gegevens dan ooit tevoren.

De afgelopen twee jaar zijn generatieve AI-tools, zoals OpenAI‘S ChatGPT en die van Google Tweeling– zijn verder gegaan dan de relatief eenvoudige chatbots met alleen tekst die de bedrijven aanvankelijk uitbrachten. In plaats daarvan bouwt Big AI steeds meer aan de adoptie ervan agenten en “assistenten” die beloven dat ze namens u acties kunnen ondernemen en taken kunnen voltooien. Het probleem? Om er het maximale uit te halen, moet u ze toegang verlenen tot uw systemen en gegevens. Hoewel een groot deel van de aanvankelijke controverse over grote taalmodellen (LLM’s) het flagrant kopiëren van auteursrechtelijk beschermde gegevens online was, zal de toegang van AI-agenten tot uw persoonlijke gegevens waarschijnlijk een nieuwe reeks problemen veroorzaken.

“AI-agents hebben, om hun volledige functionaliteit te kunnen benutten en toegang te krijgen tot applicaties, vaak toegang nodig tot het besturingssysteem of het OS-niveau van het apparaat waarop je ze draait”, zegt Harry Farmer, een senior onderzoeker bij het Ada Lovelace Institute, wiens werk onder meer het bestuderen van de impact van AI-assistenten en ontdekten dat ze een “diepgaande bedreiging” kunnen vormen voor de cyberveiligheid en privacy. Voor de personalisatie van chatbots of assistenten kunnen er, zegt Farmer, data-afwegingen plaatsvinden. “Al die dingen hebben, om te kunnen werken, behoorlijk wat informatie over jou nodig”, zegt hij.

Hoewel er geen strikte definitie bestaat van wat een AI-agent eigenlijk is, kunnen ze vaak het beste worden gezien als een generatief AI-systeem of LLM dat is gegeven een zekere mate van autonomie. Op dit moment zijn er agenten of assistenten, inclusief AI-webbrowserskan de controle over uw apparaat overnemen en voor u op internet surfen, vluchten boeken, onderzoek doen of toevoegen artikelen naar winkelwagentjes. Sommigen kunnen taken voltooien die omvatten tientallen van individuele stappen.

Terwijl de huidige AI-agenten glitchy zijn en kan vaak niet worden voltooid de taken ze zijn van plan te doentechnologiebedrijven wedden dat de systemen dat fundamenteel zullen doen wijziging miljoenen banen van mensen naarmate ze capabeler worden. Een belangrijk deel van hun nut komt waarschijnlijk voort uit de toegang tot gegevens. Als u dus een systeem wilt dat u van uw planning en taken kan voorzien, heeft het toegang nodig tot uw agenda, berichten, e-mails en meer.

Sommige meer geavanceerde AI-producten en -functies geven een idee van hoeveel toegangsagenten en -systemen er kunnen worden gegeven. Bepaalde agenten die voor bedrijven worden ontwikkeld, kunnen dat wel code lezene-mails, databasesSlack-berichten, bestanden die zijn opgeslagen in Google Drive en meer. De controversiële terugroepactie van Microsoft product maakt elke paar seconden schermafbeeldingen van uw bureaublad, zodat u alles kunt doorzoeken wat u op uw apparaat hebt gedaan. Tinder heeft een AI-functie gemaakt die dat wel kan door foto’s zoeken op uw telefoon “om de “interesses en persoonlijkheid” van gebruikers beter te begrijpen.

Carissa Véliz, auteur en universitair hoofddocent aan de Universiteit van Oxford, zegt dat consumenten meestal geen echte manier hebben om te controleren of AI- of technologiebedrijven met hun gegevens omgaan op de manier die zij beweren. “Deze bedrijven gaan heel promiscue om met data”, zegt Véliz. “Ze hebben laten zien dat ze de privacy niet erg respecteren.”