Elke maand zien ongeveer 2 miljard mensen dit AI Overzichten, de AI-aangedreven zoekfunctie van Google die samenvattingen genereert van de zoekopdrachten van gebruikers. Een nieuw onderzoek onthult een zorgwekkend patroon in sommige van deze reacties: wanneer er gezondheidsgerelateerde vragen worden gesteld, lijkt AI Overviews zich aanzienlijk vaker naar YouTube te wenden dan vertrouwde medische sites.
Sinds de oprichting heeft AI Overviews te maken gehad met een groot aantal controverses, vanaf de eerste rapporten over het product onzinnige antwoorden spuien tot een reeks rechtszaken van bedrijven En uitgeversgroepen beweren dat de functie schadelijk is voor organische verkeerspatronen. De meest recente zorg kwam naar voren via een onderzoek van De Bewaker gepubliceerd op 2 januari, waarbij wordt beweerd dat de tool de neiging heeft om gebruikers valse, misleidende en potentieel gevaarlijke gezondheidsrichtlijnen te bieden. Google heeft die beweringen destijds afgewezen.
Uit een nieuw onderzoek van de AI SEO-tool SE Ranking, gepubliceerd op 14 januari, blijkt dat AI Overviews twee tot drie keer meer kans heeft om YouTube-video’s te citeren dan “vertrouwde medische sites” als reactie op gezondheidsvragen. Maar Google zegt dat dit niet het volledige beeld is.
“Vanuit het oogpunt van de AI bestaat al deze inhoud in dezelfde pool”
Om te begrijpen hoe AI Overviews zijn gezondheidsrichtlijnen op internet verzamelt, hebben onderzoekers van SE Ranking meer dan 50.000 gezondheidsgerelateerde Google-zoekopdrachten van Duitse gebruikers geanalyseerd. Die locatie werd volgens de auteurs van het onderzoek gekozen vanwege het strikt gereguleerde gezondheidszorgsysteem.
“Als AI-systemen zelfs in een dergelijke omgeving sterk afhankelijk zijn van niet-medische of niet-gezaghebbende bronnen”, schreven de auteurs in een gepubliceerd rapport“het suggereert dat de kwestie zich verder kan uitstrekken dan één enkel land.”
SE Ranking ontdekte dat van alle resultaten uit het AI-overzicht slechts ongeveer 34% afkomstig was van ‘vertrouwde medische bronnen’ (die het definieert als sites zoals medische en overheidsinstellingen, academische tijdschriften en meer), terwijl de overige 66% afkomstig was van ‘algemene of niet-deskundige bronnen’ (zoals commerciële sites of blogs).
YouTube was zelfs de belangrijkste bron voor alle gezondheidsgerelateerde vragen, goed voor 4,43% van alle AI Overviews-citaties. Volgens het rapport zijn dat 3,5 maal zoveel citaties als netdoktor.de, een van Duitslands grootste consumentengezondheidsportalen, en meer dan tweemaal zoveel citaties als MSD Manuals, een gerenommeerd medisch naslagwerk. In totaal werd YouTube geciteerd in 20.621 van de 465.823 resultaten van AI Overviews.
“Dit is van belang omdat YouTube geen medische uitgever is”, luidt het rapport. “Het is een videoplatform voor algemene doeleinden. Iedereen kan daar inhoud uploaden (bijvoorbeeld gecertificeerde artsen, ziekenhuiskanalen, maar ook welzijnsbeïnvloeders, levenscoaches en makers zonder enige medische opleiding). Vanuit het oogpunt van de AI bestaat al deze inhoud in dezelfde pool.”
In een verklaring aan Snel bedrijfweerlegde Google de bevindingen van SE Ranking. Het bedrijf zei dat de definitie van een betrouwbare bron in het onderzoek “gebrekkig en overdreven simplistisch” is, en voegde eraan toe: “Het classificeert bijna tweederde van de bronnen als ‘minder betrouwbaar’ door alles op één hoop te gooien, van commerciële sites tot blogs met meerdere onderwerpen. Dit negeert de realiteit dat een door deskundigen geschreven artikel op een ‘blog met meerdere onderwerpen’ een bron van hoge kwaliteit kan zijn.”
Google merkte op dat een nadere blik op de top 10 van meest geciteerde domeinen van het rapport – waartoe naast YouTube ook de Duitse Hartstichting en de op één na grootste zorgverzekeraar van het land behoren – blijkt dat dit “vrijwel allemaal gerespecteerde, gezaghebbende informatiebronnen zijn, wat rechtstreeks in tegenspraak is met het centrale verhaal van het rapport.”
Verder beweert Google dat AI Overviews twee tot drie keer meer naar YouTube kijkt dan vertrouwde medische sites “het feit negeert dat een grote verscheidenheid aan geloofwaardige gezondheidsautoriteiten en erkende medische professionals inhoud op YouTube creëren.”
Google wijst op het feit dat, volgens de eigen bevindingen van het onderzoek, 24 van de 25 meest geciteerde YouTube-video’s afkomstig waren van medisch-gerelateerde kanalen zoals ziekenhuizen, klinieken en gezondheidsorganisaties. (De onderzoekers van SE Ranking merken in het rapport echter op dat deze 25 video’s “slechts een klein deel” vormen van alle YouTube-video’s waarnaar AI Overviews feitelijk linkt).
In totaal zei een woordvoerder van Google: “De implicatie dat AI Overviews onbetrouwbare informatie biedt, wordt weerlegd door de eigen gegevens van het rapport, waaruit blijkt dat de meest geciteerde domeinen in AI Overviews gerenommeerde websites zijn. En uit wat we in de gepubliceerde bevindingen hebben gezien, citeert AI Overviews deskundige YouTube-inhoud van ziekenhuizen en klinieken.”
