“We gaan een nieuwe fase van informatieoorlogvoering op sociale mediaplatforms binnen, waar technologische vooruitgang de klassieke botbenadering achterhaald heeft gemaakt”, zegt Jonas Kunst, hoogleraar communicatie aan de BI Norwegian Business School en een van de coauteurs van het rapport.
Voor experts die jarenlang desinformatiecampagnes hebben gevolgd en bestreden, presenteert het artikel een angstaanjagende toekomst.
“Wat als AI niet alleen maar informatie hallucineerde, maar duizenden AI-chatbots zouden samenwerken om de schijn van steun van de basis te wekken waar die er niet was? Dat is de toekomst die dit artikel voorstelt – Russische trollenboerderijen op steroïden”, zegt Nina Jankowicz, de voormalige desinformatie-tsaar van de Biden-regering die nu CEO is van het American Sunlight Project.
De onderzoekers zeggen dat het onduidelijk is of deze tactiek al wordt gebruikt, omdat de huidige systemen om gecoördineerd niet-authentiek gedrag te volgen en te identificeren niet in staat zijn dit te detecteren.
“Vanwege hun ongrijpbare eigenschappen om mensen na te bootsen, is het erg moeilijk om ze daadwerkelijk te detecteren en te beoordelen in welke mate ze aanwezig zijn”, zegt Kunst. “We hebben geen toegang tot de meeste (sociale media) platforms omdat platforms steeds restrictiever zijn geworden, dus het is moeilijk om daar inzicht in te krijgen. Technisch gezien is het zeker mogelijk. We zijn er vrij zeker van dat het wordt getest.”
Kunst voegde eraan toe dat deze systemen waarschijnlijk nog steeds enig menselijk toezicht zullen hebben terwijl ze worden ontwikkeld, en voorspelt dat ze weliswaar geen enorme impact zullen hebben op de Amerikaanse tussentijdse verkiezingen van 2026 in november, maar dat ze zeer waarschijnlijk zullen worden ingezet om de presidentsverkiezingen van 2028 te verstoren.
Accounts die niet van mensen te onderscheiden zijn op sociale-mediaplatforms zijn slechts één probleem. Bovendien zal het vermogen om sociale netwerken op grote schaal in kaart te brengen, volgens de onderzoekers degenen die desinformatiecampagnes coördineren, in staat stellen agenten op specifieke gemeenschappen te richten, waardoor de grootste impact wordt gegarandeerd.
“Uitgerust met dergelijke mogelijkheden kunnen zwermen zich positioneren voor maximale impact en berichten afstemmen op de overtuigingen en culturele signalen van elke gemeenschap, waardoor een nauwkeurigere targeting mogelijk wordt dan met eerdere botnets”, schrijven ze.
Dergelijke systemen zouden in wezen zichzelf kunnen verbeteren, door de reacties op hun berichten te gebruiken als feedback om de redenering te verbeteren en zo een boodschap beter over te brengen. “Met voldoende signalen kunnen ze miljoenen microA/B-tests uitvoeren, de winnende varianten op machinesnelheid verspreiden en veel sneller itereren dan mensen”, schrijven de onderzoekers.
Om de dreiging van AI-zwermen te bestrijden, stellen de onderzoekers de oprichting voor van een ‘AI Influence Observatory’, dat zou bestaan uit mensen uit academische groepen en niet-gouvernementele organisaties die werken aan ‘het standaardiseren van bewijsmateriaal, het verbeteren van het situationeel bewustzijn en het mogelijk maken van een snellere collectieve reactie in plaats van reputatieboetes van bovenaf op te leggen’.
Eén groep die niet is opgenomen zijn de leidinggevenden van de sociale-mediaplatforms zelf, vooral omdat de onderzoekers van mening zijn dat hun bedrijven betrokkenheid boven al het andere stimuleren, en daarom weinig prikkels hebben om deze zwermen te identificeren.
“Laten we zeggen dat AI-zwermen zo frequent voorkomen dat je niemand meer kunt vertrouwen en dat mensen het platform verlaten”, zegt Kunst. “Natuurlijk is dat een bedreiging voor het model. Als ze alleen maar de betrokkenheid vergroten, is het voor een platform beter om dit niet te onthullen, omdat het lijkt alsof er meer betrokkenheid is en er meer advertenties worden gezien, dat zou positief zijn voor de waardering van een bepaald bedrijf.”
Naast een gebrek aan actie van de platforms zijn experts van mening dat er weinig prikkels zijn voor overheden om betrokken te raken. “Het huidige geopolitieke landschap is misschien niet vriendelijk voor ‘Observatoria’ die hoofdzakelijk online discussies monitoren”, zegt Olejnik. Jankowicz is het daarmee eens: “Het meest angstaanjagende aan deze toekomst is dat er heel weinig politieke wil is om de schade aan te pakken die AI veroorzaakt, wat betekent dat (AI-zwermen) binnenkort werkelijkheid kunnen worden.”
