Altijd al één-op-één coaching willen ontvangen van Vreemd oog lifestylegoeroe Karamo Brown? Oké, maar hoe zit het met … van een digitale kloon van Karamo gemaakt door een bedrijf voor kunstmatige intelligentie?
Donderdag maakte de reality-tv-ster op Instagram bekend dat hij een partnerschap is aangegaan met Delphi, een AI-chatbotbedrijf dat belooft experts in “digitale geesten” die op individueel niveau met hun volgers communiceren, waarbij zelfs videogesprekken mogelijk zijn. Zoals Brown in zijn aankondiging zei: Delphi kan zijn digitale geest, genaamd Kē, “24 uur per dag, 7 dagen per week” beschikbaar maken, en het is alsof je tegen mij praat.
“De afgelopen tien jaar heb ik gehoord: ‘Karamo, ik wou dat je me advies kon geven’, ‘Karamo, ik wou dat ik rechtstreeks met je kon praten’, ‘Karamo, ik wou dat je mijn therapeut en mijn raadgever kon zijn’”, zegt Brown in de aankondigingsvideo, om de reden voor het partnerschap uit te leggen.
In zijn aankondiging probeert Brown de kritiek voor te zijn door te erkennen dat de chatbot inderdaad AI is, “maar dit is geen ChatGPT AI.” Brown gaat vervolgens verder met het geven van een live demonstratie met een chatbot die zijn stem laat horen – een die beweert dat het geen ‘chatbot’ is, maar eerder een ‘digitale weerspiegeling’ van zijn gelijkenis.
Welke naam je er ook aan geeft, AI-chatbots zijn in wezen grote modellen voor het leren van talen die zijn ontworpen om positieve feedbackloops met hun gebruikers te creëren – en een recente golf van rapportage En wetenschappelijk onderzoek suggereert dat een dergelijke dynamiek ongekende en schadelijke gevolgen zou kunnen hebben voor menselijk gedrag die verder onderzoek rechtvaardigen. Uit een op Stanford gebaseerd onderzoek is zelfs gebleken dat relaties met chatbots kunnen leiden tot “waanachtige spiralen” waarin de onjuiste overtuigingen van een gebruiker tot gevaarlijke uitersten worden gevalideerd. We zeggen niet dat Kē je leven zal verpesten, maar de risico’s van het praten met een op LLM gebaseerde ‘digitale geest’ in plaats van een erkende professional in de geestelijke gezondheidszorg moeten misschien in overweging worden genomen.
Zoals Kē zelf (zelf?) zegt wanneer Brown een demonstratie doet, kan de bot niet ‘doen alsof hij je therapeut is’. Kē zal vanaf 27 april online beschikbaar zijn.
Haal het beste uit wat vreemd is. Meld u aan voor Hen’s wekelijkse nieuwsbrief hier.
