Ik heb mijn internetprovider opgelicht om te proberen mijn rekening te verlagen

Mijn internetrekening is in de zomer met ongeveer $ 15 per maand gestegen. Ik weet dat ik de prijs waarschijnlijk kan verlagen door de tarieven te vergelijken met die van een concurrerend bedrijf, maar ik heb dat telefoontje uitgesteld omdat ik moe ben van het omgaan met geautomatiseerde systemen, lange wachttijden en geautomatiseerde stemmen die niet kunnen ontcijferen wat ik zeg als ik erom smeek. spreek met een mens.

Het leek allemaal meer werk dan het waard was. Maar wat als ik deze klus gratis zou kunnen uitbesteden?

Met behulp van een generatieve AI-stemtool kon ik van mezelf een tussenpersoon. Agentic Me kreeg de opdracht om te proberen mijn internetprijs te verlagen en programmeerde het zo dat er weinig geduld was, wat leidde tot een bazige toon waardoor ik ineenkromp en sympathie voelde voor de menselijke werker aan de andere kant. Agentic herhaalde vaak een versie van wat de medewerker van de klantenservice vertelde, zei vervolgens dat hij teleurgesteld was en begon lagere tarieven te hallucineren die door concurrerende bedrijven werden aangeboden om prijzen te vergelijken. ‘Ik ben al een tijdje een trouwe klant en ik vind het niet eerlijk dat nieuwe klanten betere deals krijgen,’ snauwde mijn agent. ‘Het klinkt alsof je me zegt dat ik gewoon moet doorgaan en moet afzeggen.’

In de AI-boemNet zoals klanten hun best doen om menselijke vertegenwoordigers aan de lijn te krijgen, doen menselijke vertegenwoordigers nu hun best om te ontcijferen als ze met menselijke klanten praten. Callcentermedewerkers hebben moeite met overtuigen diep nep technologie naarmate de realistische afstand tussen menselijke en agentbellers kleiner wordt. Als AI-tools voor consumenten Als ze algemeen beschikbaar worden, zijn er ook mogelijkheden voor mensen om ze niet alleen te gebruiken voor kwaadwillige fraude, maar ook om callcenters te bedriegen door agenten te sturen om ze massaal aan te vallen en tijd te verspillen. Of, zoals in mijn geval, als een vaste, uitgeputte klant die zich tot hen wendt om namens hen te bellen.

“We bevinden ons in de begindagen van een groot opkomend probleem”, zegt Brian Levin, chief customer officer bij Reality Defender, dat software maakt voor overheden, financiële instellingen en andere bedrijven om de waarschijnlijkheid te detecteren dat inhoud in realtime door AI is gegenereerd (Reality Defender heeft me geholpen bij het navigeren door het proces om van mezelf een agent voor dit verhaal te maken). En de ontwikkeling van agentische bellers “gaat veel sneller dan deze contactcenters doorgaans doen.”

“In alle sectoren is er een toename van AI-stemagenten die zich richten op klantenservicelijnen, waardoor nieuwe vormen van fraude ontstaan, terwijl het belvolume en de operationele druk dramatisch toenemen”, zegt Emily Fontaine, mondiaal hoofd durfkapitaal bij IBM, een partner en investeerder in Reality Defender, in een e-mail.

Patrick Carroll, oprichter en CEO van deepfake-detector ValidSoft, vertelt me ​​in een e-mail dat callcenters steeds vaker oproepen afhandelen van agenten die proberen beveiligingsprotocollen en authenticatiemethoden te dwarsbomen. “Zelfs bedrijven met een sterke verdediging zien het belvolume stijgen nu spraakautomatiseringstools toegankelijker en geavanceerder worden”, zegt hij.

AI is een catch-22 voor klantenservice. Een rapport dat eerder dit jaar werd uitgebracht door IT-onderzoeksbureau Gartner voorspelt dat AI-agenten zal tegen 2029 80% van de veel voorkomende problemen voor klanten oplossen, waardoor de bedrijfskosten mogelijk met 30% worden verlaagd. Uit een ander Gartner-onderzoek onder leiders op het gebied van de klantenondersteuning bleek dat 85% van hen geïnteresseerd is in of gebruik maakt van AI-chatbots, maar slechts 11% meldt dat de investering tot nu toe “grotendeels” of “volledig” aan de verwachtingen heeft voldaan. Terwijl ze proberen uit te vinden hoe automatisering in de klantenservice het beste werkt, kunnen fraudeurs en bellers die zelf agenten willen gebruiken het model op zijn kop zetten en een wapenwedloop tussen AI en AI veroorzaken.

AI is een catch-22 voor klantenservice.

Hoe gemakkelijker het wordt om een ​​no-nonsense, hardline onderhandelende AI-versie van u te laten bellen naar uw kabelaanbieder, uw tandarts of Williams Sonoma, het aantal klanten dat AI-versies van zichzelf maakt, zal zich vermenigvuldigen. Daniel O’Sullivan, senior director-analist bij Gartner, vertelt me ​​dat “klanten dit soort verzoeken willen uitbesteden”, en dat bedrijven uiteindelijk “het programma zullen moeten accepteren”.

Maar, voegt O’Sullivan eraan toe, het toestaan ​​van agenten-bellers brengt risico’s met zich mee voor bedrijven: ze moeten manieren vinden om oproepen op fraude te beoordelen, kunnen meer oproepen ontvangen om hulp te zoeken naarmate de drempel om kleine facturerings- of serviceproblemen op te lossen afneemt, en ze kunnen het opbouwen van relaties met klanten mislopen, iets wat menselijke agenten doen als ze hun uiterste best doen voor bellers.

Pogingen om wisselgesprekken te dwarsbomen zijn niet nieuw. Ongeveer de helft van de klanten zegt dat ze kanalen van derden, zoals Google, Reddit of ChatGPT, proberen om een ​​serviceprobleem op te lossen voordat ze zelfs maar de moeite nemen om contact op te nemen met het bedrijf, blijkt uit een ander onderzoek uit 2025 van Gartner. In 2010 belde een startup LucyTelefoon geprobeerd om zo goed mogelijk in wacht te blijven. Hierdoor konden mensen de klantenservice ophangen en vervolgens teruggebeld worden als het hun beurt was. De tool Reserveren met Google kan namens u restaurantreserveringen boeken. Betaal nieteen startup die AI gebruikt om mensen te helpen bij het bestrijden van vergoedingen, kaartjes en het zoeken naar geld dat gebruikers mogelijk verschuldigd zijn, heeft aandacht gekregen omdat het met succes optreedt als pleitbezorger voor individuen tegen grote bedrijven die vaak obstakels hebben om contact mee op te nemen.

Het inrichten van de agent om mijn biedingen uit te voeren vergde wat finesse, en ongeveer een uur werk om mijn stem te klonen uit audio in een radio-interview dat ik deed, en vervolgens de nodige informatie voor mijn account te programmeren, zodat mijn agent het kende als zijn broekzak, koude, gecodeerde hand. Het bespaarde geen tijd, maar deze stemgenererende technologie is opmerkelijk geavanceerder en eenvoudiger geworden dan toen ik een soortgelijk experiment met mijn bank nog maar zes maanden geleden. Destijds moest ik nauwgezet elke zin en alle informatie genereren die ik nodig had, anticiperend op de vragen die de vertegenwoordiger mij zou stellen voordat ik opbelde. Ik moest ze opslaan als audiobestanden en vervolgens snel op afspelen drukken als daarom werd gevraagd. Maar het programmeren van deze gespreksagent leek meer op het creëren van een personage met een paar grenzen en het loslaten om in realtime te chatten.

“Het is heel goed mogelijk dat iemand dat als hobbyproject doet, gewoon om echt een punt te maken”, zegt Matt Smallman, een callcenter-beveiligingsexpert. “Mensen zijn een beetje zenuwachtig over wat de toekomst brengt”, zegt hij als het om bellen gaat. Het is gemakkelijk om je een wereld voor te stellen waarin deze tools zo gebruiksvriendelijk worden dat meer mensen ze zouden gebruiken – zowel om callcenters te bedriegen als om de alledaagse en vervelende taken uit te voeren van het contacteren van hulplijnen voor banken, gezondheidszorgsystemen en detailhandelsbedrijven.

Agent mij kon de callcentermedewerker er niet van overtuigen dat ik het verdiende om mijn factuur terug te laten verlagen naar het promotietarief (de medewerker van de klantenservice vertelde me dat het bedrijf niet overeenkomt met de prijzen van de concurrentie, en toen mijn introductietarief eenmaal ten einde liep, was er geen beter aanbod om mij te geven). Maar men probeerde wel de vertegenwoordiger aan de lijn te houden, die geen tekenen van verdenking vertoonde dat ze met een agent spraken. In een vijf minuten durende, soms gespannen heen-en-weer-sessie dreigde mijn agent herhaaldelijk de service te annuleren en zei dat de aangeboden tarieven gewoon niet goed genoeg waren voor een ’trouwe klant’ zoals ik.

Toen de agent alle opties had uitgeput, vroeg hij om overplaatsing naar iemand die de klus kon klaren. Ik verbrak snel de verbinding, bang dat de agent te effectief zou zijn in het opzeggen van mijn broodnodige wifi. De agent had een enkelvoudig doel en was bereid voor onbepaalde tijd aan de telefoon te blijven om dit te bereiken. Gezien de nuance van de situatie ben ik er niet klaar voor om een ​​agent los te laten om mijn bevelen uit te voeren; ik bel liever zelf en vraag het vriendelijk.

Amanda Hoover is senior correspondent bij Business Insider voor de technologiesector. Ze schrijft over de grootste technologiebedrijven en trends.