Een team van onderzoekers heeft ontdekt wat volgens hen het eerste gerapporteerde gebruik is kunstmatige intelligentie om een hackcampagne grotendeels geautomatiseerd te leiden.
Het AI-bedrijf Antropisch zei deze week dat het een cyberoperatie verstoorde die zijn onderzoekers in verband brachten met de Chinese overheid. De operatie omvatte het gebruik van een kunstmatig intelligentiesysteem om de hackcampagnes te sturen, wat onderzoekers een verontrustende ontwikkeling noemden die het bereik van met AI uitgeruste hackers aanzienlijk zou kunnen vergroten.
Hoewel zorgen over het gebruik van AI om cyberoperaties aan te sturen niet nieuw zijn, is het zorgwekkende aan de nieuwe operatie de mate waarin AI een deel van het werk kon automatiseren, aldus de onderzoekers.
“Hoewel we voorspelden dat deze mogelijkheden zouden blijven evolueren, viel ons op hoe snel ze dit op grote schaal hebben gedaan”, schreven ze in hun rapport.
De operatie had een bescheiden omvang en was slechts gericht op ongeveer dertig personen die werkten bij technologiebedrijven, financiële instellingen, chemische bedrijven en overheidsinstanties. Anthropic merkte de operatie in september op en ondernam stappen om de operatie stop te zetten en de betrokken partijen op de hoogte te stellen.
De hackers zijn slechts “in een klein aantal gevallen geslaagd”, aldus Anthropic, die opmerkte dat hoewel AI-systemen steeds vaker worden gebruikt in verschillende omgevingen voor werk en vrije tijd, ze ook kunnen worden bewapend door hackende groepen die voor buitenlandse tegenstanders werken. Anthropic, maker van de generatieve AI-chatbot Claude, is een van de vele technologiebedrijven die AI-agenten pitchen die verder gaan dan de mogelijkheden van een chatbot om toegang te krijgen tot computerhulpmiddelen en namens iemand acties te ondernemen.
“Agenten zijn waardevol voor het dagelijkse werk en productiviteit – maar in de verkeerde handen kunnen ze de levensvatbaarheid van grootschalige cyberaanvallen aanzienlijk vergroten”, concludeerden de onderzoekers. “Deze aanvallen zullen waarschijnlijk alleen maar in effectiviteit toenemen.”
Een woordvoerder van de Chinese ambassade in Washington heeft niet onmiddellijk een bericht teruggestuurd met het verzoek om commentaar op het rapport.
Microsoft waarschuwde eerder dit jaar dat buitenlandse tegenstanders steeds meer AI omarmden om hun cybercampagnes efficiënter en minder arbeidsintensief te maken.
Amerika’s tegenstanders, maar ook criminele bendes en bedrijven hackenhebben het potentieel van AI benut om cyberaanvallen te automatiseren, te verbeteren en te verspreiden opruiende desinformatieen om gevoelige systemen binnen te dringen. AI kan bijvoorbeeld slecht geformuleerde phishing-e-mails vertalen naar vloeiend Engels digitale klonen van hoge overheidsfunctionarissen genereren.
