Een deel van wat ons menselijk maakt, is de unieke manier waarop we denken en problemen oplossen. Maar het gebruik van grote taalmodellen zoals ChatGPT zou dit unieke karakter kunnen uithollen en ertoe kunnen leiden dat mensen op dezelfde manier gaan denken en communiceren, aldus een groep wetenschappers en psychologen die co-auteur zijn van een nieuw opiniestuk.
“Individuen verschillen in de manier waarop ze schrijven, redeneren en naar de wereld kijken”, zegt Zhivar Sourati, een computerwetenschapper van de Universiteit van Zuid-Californië en eerste auteur van het artikel. in een verklaring.
“Wanneer deze verschillen worden gemedieerd door dezelfde LLM’s, worden hun verschillende taalstijl, perspectief en redeneerstrategieën gehomogeniseerd, waardoor gestandaardiseerde uitdrukkingen en gedachten voor alle gebruikers ontstaan”, vervolgde Sourati.
Het papierwoensdag gepubliceerd in het tijdschrift Trends in Cognitive Sciences, onderzoekt hoe honderden miljoenen mensen wereldwijd hetzelfde handjevol chatbots gebruiken en wat dat betekent voor onze individualiteit.
Binnen de kaders denken
Pew-onderzoek gevonden dat een derde van alle Amerikanen vorig jaar ChatGPT gebruikte, een verdubbeling ten opzichte van 2023. En het gebruik van chatbots komt veel vaker voor onder tieners: Twee derde zegt chatbots te gebruiken, en bijna een derde gebruikt ze dagelijks.
Ook bedrijven gaan volop aan de slag met kunstmatige intelligentie. Stanford gevonden dat 78% van de organisaties in 2024 aangaf AI te gebruiken, tegen 55% in 2023.
We gebruiken dus veel AI. Maar het gevaar is dat we de diversiteit in de manier waarop we denken kunnen verliezen. Het team wijst erop dat LLM’s schrijven genereren dat minder varieert dan wat mensen zelf bedenken.
Een deel van de reden waarom LLM’s het gehomogeniseerde denken kunnen stimuleren, zijn volgens de auteurs van het artikel de gegevens die worden gebruikt om hen te trainen.
“Omdat LLM’s zijn getraind om statistische regelmatigheden in hun trainingsgegevens vast te leggen en te reproduceren, die vaak dominante talen en ideologieën oververtegenwoordigen, weerspiegelen hun resultaten vaak een smal en scheef stukje menselijke ervaring”, zegt Sourati.
Waarom divers denken ertoe doet
Er is een goede reden waarom de auteurs waarschuwen voor deze trend. Gehomogeniseerd denken vermindert pluralisme, wat in wezen het idee is dat meerdere perspectieven goed zijn voor de samenleving als geheel.
“Deze waarde van pluralisme is geworteld in het al lang bestaande principe dat een gezond oordeel blootstelling aan gevarieerd denken vereist”, schrijven de auteurs in de krant. “Als deze homogenisering niet wordt gecontroleerd, riskeert deze de cognitieve landschappen af te vlakken die de collectieve intelligentie en het aanpassingsvermogen aansturen,”
Daarom gebruiken we verschillende manieren van denken meer oplossingen bedenken tot een probleem. Als we het vermogen verliezen om anders te denken en te communiceren, kan dit van invloed zijn op de manier waarop we ons aanpassen aan nieuwe situaties.
“De zorg is niet alleen dat LLM’s bepalen hoe mensen schrijven of spreken, maar dat ze op subtiele wijze herdefiniëren wat telt als geloofwaardige spraak, correct perspectief of zelfs goed redeneren”, zegt Sourati.
De auteurs zeggen ook dat deze trend zelfs gevolgen heeft voor mensen die geen chatbots gebruiken.
“Als veel mensen om mij heen op een bepaalde manier denken en spreken, en ik de dingen anders doe, zou ik een druk voelen om zich bij hen aan te sluiten, omdat het een geloofwaardiger of sociaal aanvaardbare manier lijkt om mijn ideeën uit te drukken”, zegt Sourati.
