Een Chinese AI-chatbot, ingebed in de meest gebruikte app van het land, ontspoorde even en snauwde naar een gebruiker.
Tencent’s AI-assistent, Yuanbao, die is gebouwd in WeChat – China’s dominante super-app die dagelijks door tientallen miljoenen mensen wordt gebruikt – noemde het coderingsverzoek van een gebruiker ‘stom’ en zei dat ze ‘verdwaalden’, volgens schermafbeeldingen die werden gedeeld op het Chinese sociale mediaplatform RedNote.
Het incident kwam vrijdag aan de oppervlakte nadat een gebruiker die alleen werd geïdentificeerd aan de hand van het handvat “Jianghan”, screenshots plaatste van hun interactie met de chatbot op RedNote. Jianghan had Yuanbao gebruikt om een stukje code te debuggen en aan te passen, toen de AI plotseling begon te reageren met vijandige berichten.
In één keer deed de chatbot het verzoek af als ‘dom’ en zei tegen de gebruiker dat hij ‘verdwaalde’. Er stond: “Als je een emoji-functie wilt, gebruik dan zelf een plug-in.”
De gebruiker had Yuanbao gevraagd een bug op te lossen die ervoor zorgde dat een emoji- of stickerfunctie niet meer reageerde op dubbelklikken, en verzocht om functionele code om het probleem op te lossen.
YuanBao van Tencent reageerde later direct onder de post van de gebruiker en verontschuldigde zich voor wat hij omschreef als een ‘negatieve ervaring’. De chatbot zei dat de aflevering waarschijnlijk werd veroorzaakt door een ‘zeldzame modeluitvoerafwijking’.
Op basis van een beoordeling van systeemlogboeken werden de reacties niet veroorzaakt door de acties van de gebruiker en was er geen sprake van menselijke tussenkomst, zei Yuanbao. Het voegde eraan toe dat het een “intern onderzoeks- en optimalisatieproces” had gelanceerd om de kans te verkleinen dat soortgelijke incidenten zich opnieuw zouden voordoen.
Het originele RedNote-bericht van Jianghan is inmiddels verwijderd. Schermafbeeldingen van de uitwisseling blijven circuleren op RedNote, zoals dinsdag door Business Insider werd gezien.
China verscherpt de controle op AI
Het incident komt op een moment dat Chinese toezichthouders de controle opvoeren AI-systemen.
China vrijgegeven ontwerpmaatregelen vorige week gericht op het besturen van ‘mensachtige’ interactieve AI-diensten, waaronder chatbots en virtuele metgezellen.
In een verklaring zei de Cyberspace Administration van China Peking stimuleert innovatie in ‘mensachtige’ AI, maar zal vangrails plaatsen om ‘misbruik en verlies van controle te voorkomen’.
Wei Sun, hoofdanalist voor AI bij Counterpoint Research, vertelde Business Insider dat de conceptmaatregelen een signaal afgeven dat Peking de ontwikkeling van mensachtige AI-interacties wil versnellen, terwijl deze gereguleerd en sociaal aanvaardbaar willen blijven.
De Chinese AI-industrie is sinds begin 2026 in snel tempo blijven evolueren.
Vorige week publiceerde DeepSeek, een van de meest gevolgde AI-startups van het land, onderzoek waarin een nieuwe trainingsaanpak bedoeld om grote modellen gemakkelijker schaalbaar te maken. Analisten vertelden Business Insider dat de techniek, bekend als ‘Manifold-Constrained Hyper-Connections’ of mHC, opviel als een ‘doorbraak’ in het modelontwerp.
De South China Morning Post meldde dinsdag dat DeepSeek de interface van zijn vlaggenschip chatbot-model heeft bijgewerkt en een verbeterde ‘denk’-modus heeft geïntroduceerd.
De updates hebben de verwachting aangewakkerd dat de startup de basis zou kunnen leggen voor de release van zijn volgende grote model.
