Instagram is begonnen met het automatisch genereren van koppen en beschrijvingen voor berichten van gebruikers die in de zoekresultaten van Google verschijnen – vaak zonder medeweten van de gebruikers en, in sommige gevallen, met misleidende of onnauwkeurige framing, volgens rapportage van 404 Media.
Het probleem kwam voor het eerst aan het licht nadat auteur Jeff VanderMeer opmerkte dat een van zijn Instagram-posts zonder ondertiteling – een eenvoudige video van een konijn dat een banaan eet – in de zoekresultaten van Google verscheen met een kop in clickbait-stijl die hij niet had geschreven. Andere berichten, waaronder een van een openbare bibliotheek in Massachusetts, kregen op soortgelijke wijze promotionele krantenkoppen die geen verband hielden met de originele inhoud.
Google heeft de afgelopen jaren steeds meer sociale media-inhoud in zijn zoekresultaten opgenomen. Vanaf 10 juli start Instagram heeft openbare berichten van professionele accounts doorzoekbaar gemaakt op Google.
Mashbare lichtsnelheid
404 Media bevestigden dat dit gedrag meerdere gebruikers treft. In een ander voorbeeld verscheen de video van een cosplayer in de zoekresultaten met een kop over het ontdekken van cosplaylocaties in Seattle, ondanks dat de gebruiker nooit iets had geschreven dat op die beschrijving leek. Google liet 404 Media weten dat het deze krantenkoppen niet genereert, maar de tekst rechtstreeks van Instagram haalt.
Meta bevestigde later in een verklaring aan de outlet dat Instagram onlangs AI is gaan gebruiken om titels te genereren voor berichten die in zoekmachines worden weergegeven, en stelt dat de functie bedoeld is om mensen te helpen de inhoud beter te begrijpen, terwijl wordt erkend dat de titels niet altijd accuraat zijn. Het bedrijf stuurde gebruikers naar een Helpcentrum-pagina waarin werd uitgelegd hoe u zich kunt afmelden voor zoekmachine-indexering.
Experts geciteerd door 404 Media zeggen dat de koppen speciaal voor zoekbots lijken te zijn gegenereerd en zijn ingebed in de title-tags van de pagina, wat betekent dat reguliere bezoekers ze niet op Instagram zelf zien. Gebruikers en makers hebben kritiek geuit op deze praktijk omdat deze de context van hun berichten ontneemt, hun werk verkeerd voorstelt en bijdraagt aan spamachtige zoekresultaten van lage kwaliteit.
De rapportage roept bredere vragen op over hoe AI-gegenereerde metadata online-inhoud kunnen verstoren en de reputatie van makers kunnen beïnvloeden.
