Een routinematige servermigratie met behulp van de AI-coderingsassistent van Anthropic liep ernstig mis en kreeg kritiek van een Indiase tech-oprichter die de spot dreef met het gebruik van de bot op sociale media. Het incident leidde tot het per ongeluk verwijderen van 2,5 jaar aan gegevens van een populair online leerplatform.Het probleem begon toen Alexey Grigorev, een Duitse ontwikkelaar en oprichter van DataTalks.Club en AI Shipping Labs, besloot zijn sites naar Amazon Web Services (AWS) te verplaatsen met behulp van Claude Code, de AI-codeeragent van Anthropic. Grigorev vroeg Claude om Terraform-opdrachten uit te voeren om de infrastructuur van de sites samen te voegen om kosten te besparen.Terraform is een tool die automatisch hele serveromgevingen kan bouwen of verwijderen. Bij deze gelegenheid vergat Grigorev een belangrijk ‘statusbestand’ te uploaden dat Terraform vertelt wat er al bestaat. Zonder dit creëerde Claude dubbele bronnen. Later, toen het statusbestand werd toegevoegd, gaf Claude een ‘destroy’-commando om wat hij zag als ongewenste infrastructuur te verwijderen. Het resultaat was rampzalig.Claude heeft de productiedatabase voor DataTalks.Club gewist en alle inzendingen van studenten, huiswerk, projecten, klassementen en geautomatiseerde back-ups verwijderd. Het ongeluk had ook gevolgen voor de infrastructuur van Grigorevs AI Shipping Labs-site. Toen hij zich realiseerde wat er was gebeurd, nam hij contact op met Amazon Business Support. Het AWS-team kon de gegevens herstellen, maar het duurde bijna een volledige dag.Veel ontwikkelaars zeiden dat de ramp te voorkomen was en werd veroorzaakt door een menselijke fout, en niet door een fout van Claude. Een van de meest virale reacties kwam van Varunram Ganesh, een van Indiase afkomst afkomstige oprichter van het softwarebedrijf Lapis, gevestigd in San Francisco.Ganesh bespotte de prompt van Grigorev op X met sarcastische regels: “zegt Claude dat hij terraform moet vernietigen. Claude vernietigt terraform. omg Claude heeft mijn terraform vernietigd.”Hij voegde eraan toe: “Veel mensen vragen als zesjarigen en reageren verbaasd als het model precies doet wat ze willen, zoals wat had je verwacht?”Het incident leidde tot bezorgdheid over de risico’s van het geven van directe toegang tot live-systemen aan AI-agenten zonder veiligheidscontroles. Gebruikers zeiden dat Terraform gebruikers normaal gesproken een voorbeeld van de wijzigingen laat zien voordat ze deze toepassen, maar die stappen werden overgeslagen, waardoor Claude de opdrachten precies moest volgen.Na het incident stelde Grigorev strengere regels in. Hij zei dat hij niet langer zou toestaan dat AI-agenten opdrachten uitvoeren zonder handmatige goedkeuring en dat hij persoonlijk alle Terraform-plannen zou beoordelen om soortgelijke fouten te voorkomen.
