In zijn zeer publieke impasse met het Pentagon onlangs waarschuwde Dario Amodei, CEO van Anthropic, daarvoor AI mag nooit gewend zijn doden zonder dat er mensen bij betrokken zijn. De technologie is daartoe in staat, zei hij. Waartoe het niet in staat is, is omgaan met het onverwachte, de rommelige realiteit waar geen enkel algoritme rekening mee kan houden. Die les geldt in oorlog en in bijna elke hoek van het werk en het leven.
Een paar weken geleden leek AI niet meer te stoppen. Nu worstelt bijna elke organisatie waarmee ik spreek met betrouwbaarheid, bruikbaarheid en meetbare impact. De reden is simpel. Deze modellen blinken uit in gecontroleerde omstandigheden, maar falen in de echte wereld. In die kloof, die wij de ‘executiegrens’ noemen, zijn mensen nog steeds het belangrijkst.
Mijn eigen ingenieurs hebben het duidelijk gezegd. AI is sterk in het bedenken van ideeën en in het goed uitvoeren ervan. Het midden, waar ideeën en een goed gedefinieerde uitvoering worden ingeplugd in bestaande systemen om op betrouwbare wijze resultaten te leveren, vereist nog steeds mensenwerk. Het vereist context, oordeelsvermogen, domeinexpertise en constante herijking. Het recente arbeidsrapport van Anthropic laat hetzelfde zien. De banen die het minst aan AI worden blootgesteld, zijn de banen die fysieke aanwezigheid en een onvoorspelbaar oordeel vereisen. Denk aan koks en strandwachten: mensen die moeten komen opdagen als geen enkel systeem kan anticiperen op wat er gaat gebeuren.
WAAR MENSEN IN DE LUS MOETEN ZIJN
Dit is precies waar de meeste bedrijven stilletjes mee worstelen. Buiten het coderen of het maken van inhoud kunnen er maar heel weinig taken worden uitgevoerd zonder dat er een mens bij betrokken is. De landingsbaan voor betrouwbare AI in de rommelige, echte wereld is lang. Maar het probleem is niet dat AI niet verbetert. Het probleem is hoe bedrijven de infrastructuur eromheen ontwerpen.
In de afgelopen twaalf maanden hebben onze modellen de automatiseringsdekking met meer dan 60% uitgebreid. Bij bijna elke taak zijn nog steeds mensen nodig. AI vervangt de mens niet. Het comprimeert wat ieder mens per taak doet, waardoor elke interventie kleiner, preciezer en effectiever wordt. Alleen al deze dynamiek bracht ons bedrijf van zeer negatieve brutomarges naar positieve, terwijl de resultaten en tevredenheid voor zowel klanten als werknemers verbeterden. Elke overdracht is een leermogelijkheid geworden. Elke taak leert het systeem waar de volgende overdracht moet plaatsvinden. De lus evolueert.
Hier is het cruciale inzicht dat de meeste mensen missen: de grens is geen vaste lijn waar AI naartoe marcheert. Naarmate het verbetert, verdwijnt het werk dat menselijk oordeel vereist niet. Het migreert. De vorm van menselijk werk verandert, en de infrastructuur moet mee veranderen. Als u uw systeem bouwt voor het overdrachtspunt van vandaag, zal het over zes maanden verouderd zijn.
DE BALANS MENS EN AI
De echte vraag is dus niet hoe we AI dit kunnen laten doen zonder mensen. De vraag is: hoe bouw je een lus tussen AI en mensen die elke keer dat de grens verschuift, beter wordt. Dat is waar we bij Duckbill jaren aan hebben gewerkt: de infrastructuurlaag die het stokje overdraagt tussen AI en de echte wereld. Er waren ingenieurs, operators en miljoenen datapunten voor nodig om betrouwbare uitkomsten te krijgen van echte telefoongesprekken, echte transacties, echte taken in de fysieke wereld. AI orkestreert, mensen voeren uit wanneer het werk het scherm verlaat.
En dan gebeurt het interessante: elke vertegenwoordiger leert het systeem waar het volgende overdrachtspunt moet zijn. Het stokje verandert van eigenaar, en de volgende keer verandert het anders van eigenaar, en daarna weer anders. Dat zorgt voor een betrouwbaarheid die in de loop van de tijd toeneemt. De betrouwbaarheid zit niet in de modellen; het zit in de lus.
De race die iedereen denkt te lopen gaat over het bouwen van capabelere modellen. De race die er echt toe doet, is het bouwen van de lus die evolueert. We zijn vroeg. De kloof is reëel. En het zal niet worden afgesloten door betere modellen. Het zal worden gesloten door de mensen die de lus om hen heen kunnen bouwen.
Meghan Joyce wel CEO en oprichter van Duckbill.
