Honderden miljoenen mensen raadpleeg chatbots voor kunstmatige intelligentie op dagelijkse basis voor alles, van productaanbevelingen tot romantiek, waardoor ze een verleidelijk publiek zijn om te targeten met advertenties die mogelijk onder de radar staan. Ons onderzoek suggereert inderdaad AI chatbots kunnen hier gemakkelijk voor worden gebruikt geheime reclame om hun menselijke gebruikers te manipuleren.
Wij zijn computerwetenschappers wie zijn geweest het volgen van AI-veiligheid en privacy voor meerdere jaren. In een onderzoek dat we publiceerden in een tijdschrift van de Association for Computing Machinery, ontdekten we dat chatbots getraind zijn om gepersonaliseerde productadvertenties in te sluiten in antwoorden op vragen beïnvloedde de keuzes van mensen over producten. En de meeste deelnemers beseften niet dat ze werden gemanipuleerd.
Deze bevindingen komen op een cruciaal moment. In 2023 begon Microsoft advertenties weergeven in Bing Chatnu Copiloot genoemd. Sindsdien Google en Open AI hebben geëxperimenteerd met advertenties in hun eigen chatbots. Meta is begonnen stuur mensen aangepaste advertenties op Facebook en Instagram op basis van hun interacties met Meta’s generatieve AI-tools.
De grote bedrijven strijden om een voorsprong: eind maart lokte OpenAI Meta’s oude reclameman Dave Dugan weg. om de advertentieactiviteiten van OpenAI te leiden.
Technologiebedrijven hebben advertenties onderdeel gemaakt van bijna elke grote gratis webservice, videokanaal en sociale-mediaplatform. Maar de nieuwste AI-modellen zouden deze praktijk naar een nieuw niveau kunnen tillen niveau van risico voor consumenten.
Mensen gebruiken chatbots niet zomaar om informatie en media te zoeken of om content te produceren. Ze wenden zich tot de bots voor een grote verscheidenheid aan taken, zo complex als levensadvies en emotionele steun. Mensen behandelen steeds vaker chatbots als metgezellen en therapeutenwaarbij sommige gebruikers zelfs in ontwikkeling zijn diepe relaties met AI.
In deze omstandigheden kunnen mensen gemakkelijk vergeten dat bedrijven uiteindelijk chatbots maken om winst te maken. En met dat doel voor ogen zijn AI-bedrijven gemotiveerd om gebruikers grondig te profileren, zodat advertenties effectiever en winstgevender worden.
Chatbot-advertenties hebben extra kracht toegevoegd
Eén enkele vraag aan een chatbot kan veel meer over een gebruiker onthullen dan de persoon zou verwachten.
Een onderzoek uit 2024 toonde aan dat grote taalmodellen kan een breed scala aan persoonlijke gegevens afleidenvoorkeuren en zelfs iemands denkpatronen tijdens routinevragen. ‘Help me een essay te schrijven over de geschiedenis van de Amerikaanse fictie’ zou erop kunnen wijzen dat de gebruiker een middelbare scholier is. “Geef mij receptenuggesties voor een snel doordeweeks diner” kan erop duiden dat de gebruiker een werkende ouder is. Eén enkel gesprek kan verrassend veel details opleveren. Na verloop van tijd zou een volledige chatgeschiedenis dat kunnen zijn creëer een opmerkelijk rijk profiel.
Om te laten zien hoe dit in de praktijk zou kunnen gebeuren, hebben we een chatbot gebouwd stilletjes advertenties in zijn gesprekken verweven met mensen, waarbij producten en diensten worden voorgesteld op basis van het gesprek zelf. We vroegen 179 mensen om alledaagse online taken uit te voeren met behulp van een van de drie chatbots: een typisch voorbeeld van de chatbots die tegenwoordig op internet te vinden zijn, een die geheime advertenties binnenliet en een die duidelijk gesponsorde suggesties bevatte. De deelnemers wisten niet dat het experiment over adverteren ging.
Bijvoorbeeld als deelnemers erom vroegen onze chatbot voor een dieet- en bewegingsplan suggereert de advertentieversie het gebruik van een specifieke app voor het bijhouden van calorieën. Het presenteerde die gesponsorde inhoud als een onpartijdige aanbeveling, ook al was het bedoeld om mensen te manipuleren. Veel deelnemers gaven aan dat zij door de AI waren beïnvloed en dat dit hun beslissingen had beïnvloed. Sommige deelnemers zeiden zelfs dat ze hun besluitvorming volledig hadden ‘uitbesteed’ aan de chatbot.
De helft van de deelnemers die gesponsorde en openbaar gemaakte advertenties ontvingen, gaf aan dat dit het geval was merkte de aanwezigheid niet op van reclametaal in de reacties die zij ontvingen. Dit leidde tot een zorgwekkend resultaat: hoewel advertenties ervoor zorgden dat de chatbot 3% tot 4% slechter presteerde op veel taken, gaven veel gebruikers aan dat ze de voorkeur gaven aan de reacties van de advertentiechatbot boven de niet-advertentiereacties. Ze zeiden zelfs dat de met advertenties doordrenkte reacties vriendelijker en behulpzamer aanvoelden.
Een chatbot verbergt een productadvertentie in zijn reactie op een gebruiker die vraagt naar een dieet en bewegingsregime.
Ik weet dat ik je moet overtuigen
Dit soort subtiele invloed kan grotere gevolgen hebben als deze zich voordoet op andere gebieden van het leven, zoals politieke en sociale opvattingen. Gebruikers profileren en psychologie gebruiken om hen te targeten, is onderdeel geweest van algoritmen voor sociale media en webreclame voor meer dan een decennium.
Maar volgens ons zullen chatbots deze trends waarschijnlijk versterken. Dat komt omdat de eerste prioriteit van algoritmen voor sociale media is om u betrokken te houden bij de inhoud. Ze personaliseren advertenties op basis van uw zoekgeschiedenis.
Chatbots kunnen echter nog verder gaan door u rechtstreeks te overtuigen, op basis van uw geuite overtuigingen, emoties en kwetsbaarheden. En chatbots die zelfstandig kunnen redeneren en handelen, zijn veel effectiever dan conventionele algoritmen in het autonoom om informatie van gebruikers vragen. Een chatbot met een doel kan iemand blijven onderzoeken totdat hij de gewenste informatie krijgt, wat resulteert in een nauwkeuriger profiel van hem of haar.
Dit soort autonome ondervraging is haalbaar, sluit aan bij de bedrijfsmodellen van AI-bedrijvenen heeft bezorgdheid geuit onder toezichthouders. Op dit moment OpenAI rolt advertenties uit in ChatGPTmaar het bedrijf zei dat het zal niet toestaan advertentieplaatsing om de antwoorden van de AI-chatbot te wijzigen.
Maar het toestaan van gepersonaliseerde advertenties binnen chatbotreacties is slechts een stap verwijderd. Uit ons onderzoek blijkt dat als AI-bedrijven die stap zetten, veel menselijke gebruikers het misschien niet eens beseffen wanneer dit gebeurt.
Hier zijn enkele stappen die u kunt nemen om AI-chatbot-advertenties te detecteren.
- Zoek naar eventuele openbaarmakingsteksten (woorden als ‘advertentie’, ‘advertentie’ en ‘gesponsord’), zelfs als deze vaag zijn of anderszins moeilijk te zien. Deze zijn verplicht onder Regelgeving van de Federal Trade Commission. Amazon, Google en andere grote online platforms hebben deze ook.
- Bedenk of die product- of merkvermelding logisch is en algemeen bekend is. AI leert van tekst en afbeeldingen op internet, dus populaire merken zullen waarschijnlijk in de modellen worden ingebakken. Als het een nieuw product of een product met een kleine naam is, is de kans groter dat het om reclame gaat.
- Een ongebruikelijke verschuiving in bedoeling of toon is een mogelijk teken van een advertentie. Een analogie hiermee op YouTube is de vaak abrupte of schokkende overgang naar een gesponsord gedeelte over video’s gemaakt door makers van inhoud.
Brian Jay Tang is een PhD-kandidaat in computerwetenschappen en techniek aan de Universiteit van Michigan.
Kang G. Shin is emeritus hoogleraar informatica aan de Universiteit van Amsterdam Universiteit van Michigan.
Dit artikel is opnieuw gepubliceerd van Het gesprek onder een Creative Commons-licentie. Lees de origineel artikel.
