In de race om kunstmatige intelligentie in de onderneming te brengen, doet een kleine maar goed gefinancierde startup een stoutmoedige bewering: het probleem dat de adoptie van AI in complexe industrieën tegenhoudt, zijn nooit de modellen zelf geweest.
Contextuele AIeen tweeënhalf jaar oud bedrijf, gesteund door onder meer investeerders Bezos-expedities En Bain Capital Venturesmaandag onthuld Agent-componisteen platform dat is ontworpen om ingenieurs in de lucht- en ruimtevaart, de productie van halfgeleiders en andere technisch veeleisende vakgebieden te helpen AI-agenten te bouwen die het soort kennisintensieve werk kunnen automatiseren dat zich lange tijd tegen automatisering heeft verzet.
De aankondiging komt op een cruciaal moment voor zakelijke AI. Vier jaar nadat ChatGPT een golf van zakelijke AI-initiatieven op gang bracht, blijven veel organisaties vastzitten in pilotprogramma’s en hebben ze moeite om experimentele projecten naar volledige productie te brengen. Chief Financial Officers en leiders van businessunits worden steeds ongeduldiger met interne inspanningen die miljoenen dollars hebben gekost maar een beperkt rendement hebben opgeleverd.
Beste Keelade CEO van Contextual AI, is van mening dat de industrie zich op het verkeerde knelpunt heeft gefocust. “Het model is op dit moment bijna gecommoditiseerd”, zei Kiela in een interview met VentureBeat. “Het knelpunt is de context: kan de AI daadwerkelijk toegang krijgen tot uw eigen documenten, specificaties en institutionele kennis? Dat is het probleem dat we oplossen.”
Waarom zakelijke AI steeds faalt, en wat ophaal-verbeterde generatie zou moeten oplossen
Om te begrijpen wat Contextuele AI probeert, helpt het een concept te begrijpen dat centraal is geworden in de moderne AI-ontwikkeling: retrieval-augmentedgeneration, of VOD.
Wanneer grote taalmodellen zoals die uit Open AI, Googlenof Antropisch reacties genereren, ze maken gebruik van kennis die tijdens de training is ingebed. Maar die kennis heeft een einddatum en kan niet de bedrijfseigen documenten, technische specificaties en institutionele kennis omvatten die de levensader van de meeste ondernemingen vormen.
RAG-systemen proberen dit op te lossen door relevante documenten uit de eigen databases van een bedrijf op te halen en deze naast de vraag van de gebruiker aan het model te koppelen. Het model kan zijn reactie vervolgens baseren op daadwerkelijke bedrijfsgegevens in plaats van uitsluitend op zijn training te vertrouwen.
Kiela hielp bij het pionieren van deze aanpak tijdens zijn tijd als wetenschappelijk onderzoeker bij Facebook AI-onderzoek en later als hoofd onderzoek bij Knuffelend gezichthet invloedrijke open-source AI-bedrijf. Hij heeft een Ph.D. uit Cambridge en is adjunct-professor in symbolische systemen aan Stanford University.
Maar vroege RAG-systemen, zo erkent Kiela, waren primitief.
“De vroege RAG was behoorlijk grof: pak een kant-en-klare retriever, sluit hem aan op een generator en hoop er het beste van”, zei hij. “De fouten in de pijpleiding verergerden. Hallucinaties kwamen vaak voor omdat de generator niet was getraind om aan de grond te blijven.”
Toen Kiela werd opgericht Contextuele AI in juni 2023 wilde hij deze problemen systematisch oplossen. Het bedrijf ontwikkelde wat het een ‘uniforme contextlaag’ noemt: een reeks tools die zich tussen de gegevens van een bedrijf en zijn AI-modellen bevinden en ervoor zorgen dat de juiste informatie het model in het juiste formaat op het juiste moment bereikt.
De aanpak heeft erkenning opgeleverd. Volgens een casestudy van Google Cloud heeft Contextuele AI dit bereikt hoogste prestatie in de FACTS-benchmark van Google voor geaarde, hallucinatiebestendige resultaten. Het bedrijf verfijnde de open-source Llama-modellen van Meta op het Vertex AI-platform van Google Cloud, waarbij de nadruk specifiek lag op het verminderen van de neiging van AI-systemen om informatie te verzinnen.
Inside Agent Composer, het platform dat belooft complexe technische workflows om te zetten in minuten werk
Agent-componist breidt het bestaande platform van Contextual AI uit met orkestratiemogelijkheden: de mogelijkheid om meerdere AI-tools over meerdere stappen te coördineren om complexe workflows te voltooien.
Het platform biedt drie manieren om AI-agenten te creëren. Gebruikers kunnen beginnen met kant-en-klare agents die zijn ontworpen voor algemene technische workflows, zoals analyse van de hoofdoorzaak of controle op naleving. Ze kunnen een workflow in natuurlijke taal beschrijven en het systeem automatisch een werkende agentarchitectuur laten genereren. Of ze kunnen helemaal opnieuw bouwen met behulp van een visuele drag-and-drop-interface waarvoor geen codering nodig is.
Wat Agent Composer onderscheidt van concurrerende benaderingen, zegt het bedrijf, is de hybride architectuur. Teams kunnen strikte, deterministische regels voor stappen met hoge inzet – nalevingscontroles, gegevensvalidatie, goedkeuringspoorten – combineren met dynamisch redeneren voor verkennende analyses.
“Voor zeer kritische workflows kunnen gebruikers volledig deterministische stappen kiezen om het gedrag van agenten te controleren en onzekerheid te voorkomen”, aldus Kiela.
Het platform bevat ook wat het bedrijf noemt “Agentoptimalisatie met één klik“, dat gebruikersfeedback nodig heeft en de prestaties van agenten automatisch aanpast. Elke stap van het redeneringsproces van een agent kan worden gecontroleerd, en de reacties worden geleverd met citaten op zinsniveau die precies laten zien waar de informatie in de brondocumenten vandaan komt.
Van acht uur tot twintig minuten: wat vroege klanten zeggen over de prestaties van het platform in de echte wereld
Contextuele AI zegt dat vroege klanten aanzienlijke efficiëntiewinsten hebben gemeld, hoewel het bedrijf erkent dat deze cijfers afkomstig zijn van zelfrapportage door klanten en niet van onafhankelijke verificatie.
“Deze komen rechtstreeks uit klantbeoordelingen, die benaderingen zijn van workflows in de echte wereld”, zegt Kiela. “De cijfers zijn door onze klanten zelf gerapporteerd en beschrijven het voor-en-na-scenario van de adoptie van Contextuele AI.”
De geclaimde resultaten zijn niettemin opvallend. Een geavanceerde fabrikant heeft de analyse van de hoofdoorzaak teruggebracht van acht uur naar twintig minuten door het parseren van sensorgegevens en logcorrelatie te automatiseren. Een gespecialiseerd chemiebedrijf bracht productonderzoek terug van uren naar minuten met behulp van agenten die patenten en regelgevende databases doorzoeken. Een fabrikant van testapparatuur genereert nu testcode in minuten in plaats van dagen.
Keith Schaub, vice-president technologie en strategie bij Voordeeleen bedrijf voor testapparatuur voor halfgeleiders, bood een goedkeuring aan. “Contextuele AI is een belangrijk onderdeel geweest van onze inspanningen op het gebied van AI-transformatie”, aldus Schaub. “De technologie is uitgerold naar meerdere teams bij Advantest en geselecteerde eindklanten, waardoor er veel tijd wordt bespaard bij taken variërend van het genereren van testcodes tot de engineeringworkflows van klanten.”
Andere klanten van het bedrijf zijn onder meer Qualcommde halfgeleidergigant; SchipBobeen op technologie gebaseerde logistieke dienstverlener die beweert een 60 keer snellere probleemoplossing te hebben bereikt; En Nvidiade chipmaker wiens grafische processors de meeste AI-systemen aandrijven.
Het eeuwige ondernemingsdilemma: moeten bedrijven hun eigen AI-systemen bouwen of kant-en-klare systemen kopen?
Misschien wel de grootste uitdaging Contextuele AI gezichten zijn niet concurrerende producten, maar het instinct van technische organisaties om hun eigen oplossingen te bouwen.
“Het grootste bezwaar is ‘we gaan het zelf bouwen'”, erkende Kiela. “Sommige teams proberen het. Het klinkt spannend om te doen, maar het is uitzonderlijk moeilijk om dit op grote schaal goed te doen. Veel van onze klanten zijn begonnen met doe-het-zelf en merkten dat ze twaalf tot achttien maanden later nog steeds bezig waren met het debuggen van ophaalpijplijnen in plaats van de werkelijke problemen op te lossen.”
Het alternatief – kant-en-klare oplossingen – brengt zijn eigen problemen met zich mee, betoogt het bedrijf. Dergelijke tools zijn snel inzetbaar, maar blijken vaak inflexibel en moeilijk aan te passen aan specifieke gebruikssituaties.
Agent-componist probeert een middenweg in te nemen door een platformbenadering aan te bieden die kant-en-klare componenten combineert met uitgebreide aanpassingsmogelijkheden. Het systeem ondersteunt modellen van OpenAI, Anthropic en Google, evenals het eigen Grounded Language Model van Contextual AI, dat specifiek is getraind om trouw te blijven aan de opgehaalde inhoud.
Prijzen beginnen bij $ 50 per maand voor zelfbedieningsgebruik, met aangepaste ondernemingsprijzen voor grotere implementaties.
“De rechtvaardiging voor CFO’s gaat eigenlijk over het verhogen van de productiviteit en hen sneller aan de slag te krijgen met hun AI-initiatieven”, aldus Kiela. “Elk technisch team heeft moeite om technisch toptalent aan te nemen, dus het productiever maken van hun bestaande teams is een grote prioriteit in deze sectoren.”
De weg die voor ons ligt: coördinatie tussen meerdere agenten, schrijfacties en de race om samengestelde AI-systemen te bouwen
Vooruitkijkend schetste Kiela drie prioriteiten voor het komende jaar: workflowautomatisering met daadwerkelijke schrijfacties op bedrijfssystemen in plaats van alleen maar lezen en analyseren; betere coördinatie tussen meerdere gespecialiseerde agenten die samenwerken; en snellere specialisatie door automatisch leren van productiefeedback.
“Het samengestelde effect is hier van belang”, zei hij. “Elk document dat je opneemt, elke feedbacklus die je sluit, de verbeteringen stapelen zich op. Bedrijven die deze infrastructuur nu bouwen, zullen moeilijk te vangen zijn.”
De zakelijke AI-markt blijft hevig concurrerend, met aanbiedingen van grote cloudproviders, gevestigde softwareleveranciers en tientallen startups die allemaal op dezelfde klanten jagen. Of de inzet van Contextuele AI op context boven modellen vruchten zal afwerpen, hangt af van de vraag of bedrijven Kiela’s mening gaan delen dat de fundamentele modeloorlogen er minder toe doen dan de infrastructuur eromheen.
Maar er schuilt een zekere ironie in de positionering van het bedrijf. Jarenlang heeft de AI-industrie zich gefixeerd op het bouwen van steeds grotere, steeds krachtigere modellen, waarbij miljarden in de race om kunstmatige algemene intelligentie zijn gestoken. Contextuele AI voert een rustiger argument aan: voor het meeste werk in de echte wereld zit de magie niet in het model. Het gaat erom te weten waar je moet kijken.
