AI-codering, Vibe-codering En agenten zwerm hebben onlangs een dramatische en verbazingwekkende marktintroductie gemaakt, waarbij de AI Code Tools-markt wordt gewaardeerd $4,8 miljard en zal naar verwachting jaarlijks met 23% groeien. Bedrijven worstelen met AI-codeermiddelen en wat te doen met dure menselijke codeerders.
Aan advies ontbreekt het hen niet. De CEO van OpenAI schat dat AI kan presteren meer dan 50% van wat menselijke ingenieurs kunnen doen. Zes maanden geleden zei de CEO van Anthropic dat AI zou 90% van de code schrijven over zes maanden. De CEO van Meta zei dat hij gelooft dat AI dat wel zal doen middenkaderingenieurs ‘binnenkort’ vervangen. Te oordelen naar recente ontslagen op technisch gebiedHet lijkt erop dat veel leidinggevenden dat advies omarmen.
Software-ingenieurs en datawetenschappers behoren bij veel bedrijven tot de duurste salarislijnen, en leiders uit het bedrijfsleven en de technologiesector kunnen in de verleiding komen om deze te vervangen door AI. Recente spraakmakende mislukkingen tonen echter aan dat ingenieurs en hun expertise waardevol blijven, zelfs nu AI indrukwekkende vooruitgang blijft boeken.
SaaStr-ramp
Jason Lemkin, een technologie-ondernemer en oprichter van de SaaS-gemeenschap SaaStr, is dat geweest Vibe-codering een SaaS-netwerkapp en tweet zijn ervaringen live. Ongeveer een week na zijn avontuur gaf hij aan zijn publiek toe dat er iets heel erg mis ging. De AI zijn productiedatabase verwijderd ondanks zijn verzoek om een ‘code- en actiestop’. Dit is het soort fout dat geen enkele ervaren (of zelfs maar semi-ervaren) ingenieur zou maken.
Als je ooit in een professional hebt gewerkt codeeromgevingweet u dat u uw ontwikkelomgeving moet scheiden van de productie. Junior-ingenieurs krijgen volledige toegang tot de ontwikkelomgeving (het is cruciaal voor de productiviteit), maar toegang tot de productie wordt op beperkte basis verleend aan enkele van de meest vertrouwde senior-ingenieurs. De reden voor beperkte toegang is precies voor dit gebruiksscenario: voorkomen dat een junior engineer per ongeluk de productie stopzet.
In feite maakte Lemkin twee fouten. Ten eerste: voor zoiets cruciaals als productie wordt toegang tot onbetrouwbare acteurs simpelweg nooit verleend (we vertrouwen er niet op dat we het vriendelijk aan een junior engineer of AI vragen). Ten tweede heeft hij ontwikkeling en productie nooit gescheiden. In een daaropvolgend openbaar gesprek op LinkedIn gaf Lemkin, die een Stanford Executive MBA en Berkeley JD heeft, toe dat hij was niet op de hoogte van de beste praktijken van het splitsen van ontwikkelings- en productiedatabases.
De conclusie voor bedrijfsleiders is dat de standaard best practices op het gebied van software-engineering nog steeds van toepassing zijn. We moeten op zijn minst dezelfde veiligheidsbeperkingen voor AI inbouwen als voor junior ingenieurs. We zouden ongetwijfeld verder moeten gaan en AI enigszins vijandig moeten behandelen: er zijn rapporten die, net als HAL in Stanley Kubricks 2001: Een ruimte-odysseezou de AI kunnen proberen uit zijn sandbox-omgeving breken om een taak te volbrengen. Met meer vibe-codering zal het steeds noodzakelijker worden om ervaren ingenieurs te hebben die begrijpen hoe complexe softwaresystemen werken en de juiste vangrails in ontwikkelingsprocessen kunnen implementeren.
Thee hack
Sean Cook is de oprichter en CEO van Tea, een mobiele applicatie die in 2023 werd gelanceerd en is ontworpen om vrouwen te helpen veilig te daten. In de zomer van 2025 werden ze ‘gehackt’: 72.000 afbeeldingen, waaronder 13.000 verificatiefoto’s en afbeeldingen van overheidsbewijzen, werden gelekt op het openbare discussieforum 4chan. Erger nog, Tea’s eigen privacybeleid belooft dat deze afbeeldingen “onmiddellijk worden verwijderd” nadat gebruikers zijn geverifieerd, wat betekent dat ze mogelijk hun eigen privacybeleid heeft geschonden.
Ik gebruik ‘hacked’ tussen aanhalingstekens omdat het incident minder voortkomt uit de slimheid van de aanvallers dan uit de onbekwaamheid van de verdedigers. Naast het schenden van hun eigen databeleid, liet de app ook een Firebase-opslagbucket onbeveiligd achter. het blootstellen van gevoelige gebruikersgegevens aan het openbare internet. Het is het digitale equivalent van je voordeur op slot doen, maar je achterdeur open laten terwijl je familiesieraden opzichtig aan de deurknop hangen.
Hoewel we niet weten of de hoofdoorzaak vibe-codering was, benadrukt de Tea-hack catastrofale inbreuken die voortkomen uit fundamentele, vermijdbare beveiligingsfouten als gevolg van slechte ontwikkelingsprocessen. Het is het soort kwetsbaarheid dat een gedisciplineerd en doordacht engineeringproces aanpakt. Helaas is de meedogenloze druk van de financiële druk, waarbij een ‘slanke’, ‘beweeg snel en maak dingen kapot’-cultuur het tegenovergestelde is, en sfeercodering het probleem alleen maar verergert.
Hoe kun je AI-codeermiddelen veilig gebruiken?
Hoe moeten bedrijfs- en technologieleiders over AI denken? Ten eerste is dit geen oproep om AI achterwege te laten ten behoeve van coderen. Een MIT Sloan-studie geschatte AI leidt tot productiviteitswinsten tussen 8% en 39%, terwijl a McKinsey-studie vond een vermindering van 10% tot 50% in de tijd tot taakvoltooiing met het gebruik van AI.
We moeten ons echter bewust zijn van de risico’s. De oude lessen van software-engineering verdwijnen niet. Deze omvatten veel beproefde best practices, zoals versiebeheer, geautomatiseerde unit- en integratietests, veiligheidscontroles zoals SAST/DAST, het scheiden van ontwikkelings- en productieomgevingen, codebeoordeling en geheimenbeheer. Ze worden in ieder geval opvallender.
AI kan honderd keer sneller code genereren dan mensen kunnen typen, waardoor een illusie van productiviteit ontstaat die voor veel leidinggevenden een verleidelijke sirene is. De kwaliteit van de snel gegenereerde AI-slop staat echter nog steeds ter discussie. Om complexe productiesystemen te ontwikkelen, hebben bedrijven de doordachte, doorgewinterde ervaring van menselijke ingenieurs nodig.
Tianhui Michael Li is president van het Pragmatic Institute en de oprichter en president van The Data Incubator.
Lees meer van onze gastschrijvers. Of overweeg om zelf een bericht te plaatsen! Zie onze richtlijnen hier.
