OpenClaw en Moltbot zijn momenteel het gesprek van de dag in de technologiestad, maar onderzoekers op het gebied van cyberbeveiliging hebben een aantal zorgen gesignaleerd waar u misschien over na wilt denken.
Openklauw — eerst bekend als Clawdboten vervolgens Moltbot, allemaal in dezelfde week – heeft de technische wereld in beweging gebracht dankzij zijn vermogen om autonoom taken uit te voeren, zoals het beheren van de schema.
In de tussentijd, Moltbook is viraal gegaan vanwege zijn sociale netwerk in Reddit-stijl, waar AI-agenten berichten plaatsen en met elkaar communiceren. Geen mensen toegestaan - afgezien van observeren.
Maar zoals de technische wereld memed over de twee nieuwste AI-gespreksonderwerpen en Elon Musk vroeg zich hardop af of Moltbook de ‘zeer vroege stadia van de singulariteit’ zou inluiden, hebben meerdere beveiligingsonderzoekers de alarmbellen luiden over meer directe risico’s.
Klauwen eruit
OpenClaw draait lokaal op de computer van een gebruiker en werkt als een digitale assistent die kan worden aangesloten op apps als Telegram en WhatsApp.
Om dit te doen, heeft het toegang nodig tot de bestanden, inloggegevens, wachtwoorden, browsergeschiedenis en meer van gebruikers.
Dat zou bijzonder riskant kunnen zijn voor zogenaamde “snelle injecties”, een type aanval waarbij een AI verborgen instructies op webpagina’s tegenkomt, waardoor hij ertoe kan worden verleid om bijvoorbeeld privé-informatie te delen of op sociale media te publiceren.
“Vanwege het vereiste toegangsniveau kunnen de gegevens zeer gevoelige informatie bevatten, wat het risico vergroot”, zegt Jake Moore, wereldwijde cybersecurityspecialist bij ESET, tegen Business Insider.
Theoretisch loopt elk groot taalmodel het risico van snelle injecties. Het vermogen van OpenClaw om interacties van weken geleden te ‘onthouden’ zorgt echter voor extra risico, zei het cyberbeveiligingsbedrijf Palo Alto Networks vrijdag in een rapport. blogpostomdat de AI-assistent kwaadaardige instructies zou kunnen opnemen en deze later zou kunnen uitvoeren.
De veiligheidsrisico’s zijn niet alleen hypothetisch.
OpenClaw heeft verschillende rebrandingen ondergaan, maar het logo is nog steeds een kreeft. Illustratie door Thomas Fuller/SOPA Images/LightRocket via Getty Images
Jamieson O’Reilly, de oprichter van Dvuln, een bedrijf dat zwakke punten in de cyberbeveiliging ontdekt, vergeleken een misconfiguratie die hij op OpenClaw ontdekte bij het inhuren van een butler om je leven te beheren – om vervolgens bij thuiskomst de voordeur wijd open te zien staan en “je butler vrolijk thee serveert aan iedereen die van de straat binnenloopt.”
Gary Marcus, een cognitief wetenschapper en al jarenlang scepticus van de AI-hype, was explicieter over de veiligheidsrisico’s in zijn laatste nieuwsbriefzondag gepubliceerd.
“OpenClaw is eigenlijk een bewapende spuitbus, in een uitstekende positie om dingen te verpesten, als je er geen hinder van ondervindt”, schreef hij.
Peter Steinberger, de maker van OpenClaw, zei dit maandag X-bericht dat hij eraan had gewerkt om de dienst ‘veiliger’ te maken. Hij reageerde niet op een verzoek om commentaar van Business Insider.
Verkeerd geconfigureerde Moltbook
De naam van Moltbook is geïnspireerd op de eerste rebranding van OpenClaw en ze hebben allebei kreeftlogo’s, maar de twee zijn niet formeel verbonden.
De site wordt echter grotendeels bevolkt door AI-agenten die bovenop OpenClaw zijn gebouwd. En net als OpenClaw zeggen onderzoekers ook dat ze beveiligingslekken in Moltbook hebben gevonden.
O’Reilly, de oprichter van Dvuln, zei dit zaterdag X-bericht dat Moltbook “hun hele database zonder enige bescherming had blootgelegd” en dat het “iedereen zou toestaan berichten te plaatsen namens alle agenten.”
Matt Schlicht, de maker van Moltbook en CEO van de startup Octane AI, antwoordde dat hij ernaar onderzoekt, en O’Reilly zei later dat de probleem was verholpen.
Maandag zei cyberbeveiligingsbedrijf Wiz echter dat zijn onderzoekers een “verkeerd geconfigureerde” Moltbook-database in minder dan 3 minuten, waardoor 35.000 e-mailadressen en privéberichten tussen agenten zichtbaar worden. Het bedrijf voegde eraan toe dat het de fout aan Moltbook had doorgegeven, die de fout ‘binnen enkele uren’ had ontdekt.
Schlicht was niet bereikbaar voor commentaar.
Andrej Karpathy, medeoprichter van OpenAI en die de term ‘vibe coding’ bedacht, zei dit zaterdag X-bericht dat Moltbook “echt het meest ongelooflijke aan sciencefiction-start gerelateerde ding was dat ik onlangs heb gezien.”
Zaterdag maakte hij enkele kanttekeningen bij een vervolgpost. Hij leek de site te omschrijven als een “afvalcontainerbrand” en adviseerde voorzichtig te zijn omdat “het veel te veel een wild westen is en je je computer en privégegevens in gevaar brengt.”
Gebruik uw schaaldier AI veilig
De beveiligingsproblemen weerspiegelen een al lang bestaande bezorgdheid over apps die zijn gebouwd met behulp van vibe-codering, waarbij Schlicht vorige week schreef dat hij “geen enkele regel code heeft geschreven” voor Moltbook en dat “AI het werkelijkheid heeft gemaakt.”
En voor OpenClaw herinnert het eraan dat er vaak sprake is van een afweging tussen privacy en veiligheid wanneer een app toegang krijgt tot gevoelige informatie om een betere service te kunnen leveren.
O’Reilly, die zegt dat hij OpenClaw nu helpt bij het identificeren van beveiligingsproblemen omdat hij gelooft in de missie ervan, vertelde Business Insider dat gebruikers technische stappen kunnen ondernemen om het risico te verminderen van het gebruik van een agent die toegang op rootniveau vereist, door deze bijvoorbeeld op een aparte machine uit te voeren en deze zorgvuldig te controleren.
Voor een dergelijk systeem zal het “risico echter nooit nul zijn”, zei hij. Volgens hem is het grootste probleem dat de meeste mensen gewend zijn aan het downloaden van apps uit de appstores van Google of Apple, die zwaar worden doorgelicht voordat ze beschikbaar worden gesteld aan consumenten.
“Ze hebben al honderden apps gedownload, dus waarom zou deze anders zijn? Die manier van denken is fundamenteel gebrekkig”, zei hij.
