Open AI CEO Sam Altman is er momenteel mee verwikkeld rechtszaaldramamaar de ingenieurs van het OpenAI-lab hebben zojuist een klein drama (echt een komedie) opgelost ChatGPT.
OpenAI publiceerde een lang en gedetailleerd rapport op zijn website over goblins. Nee, echt. Sinds de release van GPT 5.1 hebben ChatGPT-modellen een vreemde fixatie op goblins en gremlins ontwikkeld, waarbij beide regelmatig ter sprake komen in contexten waar het geen zin heeft. Gebruikers hebben hiervan kennis genomen en OpenAI merkte dit ook op, wat aanleiding gaf tot een onderzoek. Je kunt het volledige rapport lezen als je alle sappige details wilt, maar in feite gaat het allemaal terug op een aantoonbaar slecht begrip van hoe nerds zijn.
Als je niet gebruikt ChatGPTbiedt de AI-chatbot een verscheidenheid aan ‘persoonlijkheden’ die u kunt kiezen om de toon van zijn reacties aan te passen. Een van die persoonlijkheden was (totdat hij onlangs werd verwijderd) ‘nerdy’. Volgens het onderzoek van OpenAI, terwijl “nerdy” reacties slechts 2,5 procent van alle ChatGPT-vragen voor hun rekening namen, kwam maar liefst 66,7 procent van alle vermeldingen van goblins voort uit die 2,5 procent. Van daaruit werden deze reacties op de een of andere manier ‘beloond’ en verspreidden ze zich naar andere persoonlijkheidstypes dan ‘nerdy’.
Mashbare lichtsnelheid
“De beloningen werden alleen toegepast in de Nerdy-conditie, maar versterkend leren garandeert niet dat aangeleerd gedrag netjes blijft aansluiten bij de conditie die het heeft voortgebracht”, schreef OpenAI. “Als een stijltic eenmaal wordt beloond, kan latere training deze elders verspreiden of versterken, vooral als die resultaten worden hergebruikt in gecontroleerde verfijning of voorkeursgegevens.”
Hoe dan ook, na dat alles heeft OpenAI de ‘nerdy’-persoonlijkheid in maart met pensioen gestuurd en zijn nieuwste modellen opgedragen om geen goblins of gremlins te noemen, tenzij dit logisch is.
