Een populair academisch tijdschrift pakt hard aan op door AI gegenereerde inzendingen

We bevinden ons nog in de beginfase van de AI-revolutie, maar er zijn al voldoende aanwijzingen dat het niet louter een zegen zal zijn. Generatieve AI heeft het schrijven exponentieel sneller, zo niet noodzakelijkerwijs beter gemaakt, en het resultaat is een enorme toename van het aantal inzendingen van romans, kranten stukkenen zelfs academische tijdschriftenwaarbij één publicatie zelfs waarschuwde voor een komst “moeras van slop.”

Nu vechten de tijdschriften echter terug. ArXiv, een van de grootste open-access opslagplaatsen voor preprint academisch onderzoek, vaardigt een verbod van een jaar uit op alle auteurs die ‘duidelijk door AI gegenereerd werk’ indienen. volgens 404media. Bovendien, als de overtredende auteur wil terugkeren naar de goede gratie van ArXiv, zullen ze zich eerst moeten onderwerpen aan een “gerenommeerde peer-reviewed review-site”, aldus Thomas Dietterich, voorzitter van de computerwetenschappelijke afdeling van de publicatie.

Hij onlangs naar X gegaan om niet alleen de nieuwe regels te verduidelijken, maar ook de verantwoordelijkheid bij auteurs te leggen om LLM’s op verantwoorde wijze te gebruiken: “Als generatieve AI-tools ongepast taalgebruik, geplagieerde inhoud, bevooroordeelde inhoud, fouten, vergissingen, onjuiste verwijzingen of misleidende inhoud genereren, en die output wordt opgenomen in wetenschappelijke werken, is het de verantwoordelijkheid van de auteur(s). We hebben onlangs onze straffen hiervoor verduidelijkt. Als een inzending onweerlegbaar bewijs bevat dat de auteurs de resultaten van het genereren van LLM niet hebben gecontroleerd, betekent dit dat we Ik kan niets in de krant vertrouwen.”

Foutieve, misleidende verwijzingen, plagiaat en verzonnen citaten zijn niet de enige problemen met AI; er zijn echter anderen. In november 2025 werd ArXiv daartoe gedwongen sloot de volledige sectie over computerwetenschapsrecensies vanwege het overweldigende aantal door AI gegenereerde inzendingen, waarvan de meeste niet eens nieuwe onderzoeksresultaten introduceerden, aldus een persverklaring.

Een grappige, contra-intuïtieve consequentie van door AI mogelijk gemaakte hyperefficiëntie is het evaluatieknelpunt. Als er in een bepaalde maand honderd wetenschappelijke artikelen ter beoordeling worden ingediend, is het niet zo moeilijk om het beste werk te vinden en te publiceren, maar als er duizend inzendingen zijn, kunnen zelfs de best gefinancierde tijdschriften het niet bijbenen.

Verwacht dat de tegenslag nog heviger zal worden naarmate de kracht van AI toeneemt en de kosten voor het gebruik ervan afnemen.