Het is de laatste week van Black History Month (BHM) en het is duidelijk dat Amerikanen over performatieve waarden gaan. Afgezaagde, door BHM geïnspireerde merchandise ligt onaangeroerd in de schappen van de detailhandel, terwijl de media gonzen over het kunstenaarschap, het activisme en de symboliek van Bad Bunny’s Super Bowl-halftime-show. Het signaal is duidelijk: consumenten kijken naar merken voor echte oplossingen voor echte problemen, en niet naar producten die de cultuur vermarkten.
De meeste bedrijven bouwen alles, van reclame tot AI voor de ‘gemiddelde gebruiker’, maar daarbij reageren ze op markten in plaats van ze te leiden. Strategische leiders beschouwen een groeiend publiek – achtergestelde groepen die tot de snelst groeiende demografische groep behoren – als leidende gebruikers. Zij zijn de ‘kanaries in de kolenmijn’ omdat ze door de hoogste niveaus van systemische wrijving navigeren, waardoor ze de eersten zijn die ‘gemiddelde’ ontwerpfouten ervaren.
Hoe ziet het verdedigen van deze hoofdgebruikers eruit op communicatie-, product- of systeemniveau? Het lijkt erop dat Elijah McCoy de motorsmering automatiseert – een innovatie die is voortgekomen uit de wrijving tussen zijn ingenieursdiploma en het ondergeschikte werk dat hij moest verrichten, waardoor de ‘echte McCoy’-kwaliteitsnorm werd gecreëerd. Het lijkt erop dat Jerry Lawson de economie van de game-industrie heeft veranderd door de videogamecartridge uit te vinden die de hardware van de software scheidde. En het lijkt erop dat spoedeisende geneeskunde een mondiale standaard wordt na te zijn bestuurd door de Pittsburgh Freedom House Ambulance Service, die, ondanks medische vooringenomenheid en systemische werkloosheid, ook spoedeisende zorg opnieuw heeft gedefinieerd als een publiek recht.
Op basis van hun ervaringen in achtergestelde groepen hebben deze pioniers niet alleen problemen opgelost; ze beheersten omgevingsfrictie. Tegenwoordig manifesteert die wrijving zich ook in algoritmen. Het bevorderen van een groeiend publiek als leidende gebruikers betekent ervoor zorgen dat zij kritische “stresstesters” van het AI-systeem zijn. Als we er niet in slagen om voor hen te ontwerpen, laten we toe dat AI-gegevens, -ontwikkeling en -implementatie standaard stompe ‘gemiddelden’ blijven gebruiken die waardevolle klanten kunnen frustreren of wegjagen. Drie recente voorbeelden benadrukken problemen en kansen.
Vertrouwen op ‘data-onfeilbaarheid’ versus geleefde realiteit
In deze Infallibility Loop-bias vertrouwt de AI van een merk een gegevensbron – zoals een gebrekkige GPS-coördinaat of een verouderde overheidskaart – als een absolute waarheid, zelfs als klanten het tegendeel bewijzen. Dit is een digitale echo van historische redlining: een systemische weigering om mensen boven gebrekkige gegevens te zien.
De ervaring: Een zwarte huiseigenaar in een welvarend gebied wordt gestraft door een AI die haar adres verwart met een woning in een andere stad, waardoor automatisch onnodige overstromingsverzekeringen op haar hypotheek worden geforceerd en de betalingen worden verhoogd. Ondanks het verstrekken van door mensen geverifieerde akten en het benadrukken van bekende GPS-fouten, blokkeert de AI haar “onvolledige” betalingen en activeert geautomatiseerde krediethits. Een oplossing kwam pas maanden later nadat de consument klachten op staatsniveau had ingediend.
De oplossing: geef prioriteit aan dynamische kwalitatieve gegevensverzameling. Het ontwerp moet het mogelijk maken dat realtime, contextueel bewijsmateriaal statische, bevooroordeelde datasets kan overschrijven. Echte merkinnovatie vereist dat systemen zich onderwerpen aan de experts: hun klanten.
Het benutten van ‘Data Intimacy’, terwijl de situationele nauwkeurigheid wordt verwaarloosd
Deze vertrouwensparadox doet zich voor wanneer merken privégegevens gebruiken, maar er niet in slagen situationele gegevens te combineren, waardoor personalisatie aanvoelt als onnodig toezicht.
De ervaring: Tijdens de recente recordbrekende sneeuwstorm in New York in januari belde een klant naar een nationale apotheek in haar buurt om er zeker van te zijn dat deze open was. De AI-aangedreven interactieve voice response (IVR) herkende haar nummer, vroeg om haar geboortedatum en begroette haar bij naam. Maar na het uitvoeren van deze uitwisseling gaf het desgevraagd een “standaard” bevestiging dat de winkel open was. Zonder auto trotseerde de klant levensbedreigende omstandigheden te voet, maar vond een handgeschreven briefje op de deur waaruit bleek dat deze vanwege de storm gesloten was.
De oplossing: voeg goede wrijving toe. Een term bedacht door MIT-professor Renee Richardson Gosline, ‘Good Friction’, vereist dat wanneer de externe context (zoals een storm van niveau 5) in conflict komt met standaardscripts, het systeem pauzeert en eerst verifieert.
Prioriteit geven aan recentheid, maar loyaliteit uitwissen
Recentheidsbias in algoritmen weegt het laatste datapunt zwaarder, wat mogelijk kan leiden tot algoritmische verwijdering.
De ervaring: Een 20-jarige klant met een elitestatus belt een luchtvaartmaatschappij, maar wordt begroet door de naam van zijn nichtje (een familielid dat geen lid is voor wie hij onlangs een eenmalig ticket heeft geboekt) en krijgt vervolgens ten onrechte geen prioriteit in de geautomatiseerde reis als niet-lid. In veel ‘groeidoelgroepen’ en immigrantenhuishoudens is de economie multigenerationeel en gemeenschappelijk, waarbij één enkele ‘hoofdgebruiker’ aankopen voor de uitgebreide familie vergemakkelijkt. Het “geheugen” van dit luchtvaartsysteem was oppervlakkig: het zag alleen de meest recente transactie en negeerde een decennialange relatie omdat een reservering hetzelfde contactnummer had.
De oplossing: focus op holistisch ontwerp. AI moet worden gewogen om de boog van het klanttraject te herkennen en ervoor te zorgen dat loyaliteit niet wordt uitgewist door een enkel datapunt of de nuances van gemeenschappelijke aankopen.
Zeker, slechte data zijn een universeel probleem, maar het gebrek aan situationele intelligentie in onze AI-systemen treft groeiende doelgroepen – zoals zwarte consumenten – het eerst en het hardst. Omdat deze doelgroepen een onevenredig groot deel van de toekomstige consumptie vertegenwoordigen en de meeste ‘culturele gemene delers’ hebben, zijn hun fricties een diagnose voor grote markten. We zijn niet alleen bezig met het oplossen van een niche door hen als leidende gebruikers te verdedigen, we hanteren strengere, empathische, uitgebreide en effectieve standaarden die echte problemen voor alle mensen oplossen.
