Gepresenteerd door SAP
In een tijdperk waarin iedereen een LLM kan opzetten, is de echte onderscheidende factor niet de AI-technologie zelf, maar de institutionele kennis waarop deze is gebaseerd. Interne en partnerconsultants die leiding geven aan operationele transformatie kunnen niet het risico lopen dat ze hallucineren als hun aanbevelingen invloed hebben op geïntegreerde processen in de toeleveringsketen, productie, financiën en andere kernfuncties.
“Over geaarde AI valt niet te onderhandelen, omdat nauwkeurigheid niet optioneel is als we bijvoorbeeld transformatieprojecten van miljoenen dollars binnen het SAP-ecosysteem uitvoeren”, zegt Natalie Han, VP en Chief Product Officer, Gen AI bij SAP Business AI. “Retrieval-augmented generation-technologie en de mogelijkheid om antwoorden te verankeren in vertrouwde bedrijfskennis, zorgen voor nauwkeurige code-interpretatie, begeleiding van best practices en ondersteuning voor heldere besluitvorming. Zo brengen we echt vertrouwen in AI-aangedreven advies.”
Een volledig gefundeerde AI-assistent zoals SAP Joule for Consultants is van enorme waarde in productiegebruiksscenario’s, voegt ze eraan toe. SAP Joule beschikt over terabytes aan institutionele gegevens die voortdurend worden beheerd en bijgewerkt, zodat een consultant er zeker van kan zijn dat hij of zij over de meest recente best practices en methodologieën van SAP beschikt wanneer hij op Joule vertrouwt, terwijl tegelijkertijd de projectoplevering wordt versneld.
“We besparen 14% herwerktijd en besparen consultants 1,5 uur per dag per gebruiker, wat enorm is als je bedenkt hoe duur consultants nu zijn”, zegt Han. “Early adopters zoals Wipro hebben geschat dat ze handmatig 7 miljoen uur hebben bespaard voor hun consultants.”
De basis van SAP Joule
SAP Joule is net zo gecertificeerd als elke consultant, zegt Sachin Kaura, hoofdarchitect van SAP Business AI. De tool werd geboren in 2023, toen GPT’s op beroemde wijze slaagden voor een gesimuleerd bar-examen en de buzz veroorzaakten over het vermogen van LLM’s om met grote hoeveelheden context om te gaan. Het wordt algemeen erkend dat het SAP-ecosysteem, samen met de bijbehorende domeinontologie en taxonomie, ongelooflijk groot is en zeer complex om te navigeren. De vraag werd: hoe kon een AI-co-piloot worden gebruikt om door die complexiteit te navigeren, terwijl deze feitelijk verankerd was in het SAP-ecosysteem zelf?
Sachin Kaura begon te experimenteren met grensverleggende LLM-modellen door ze aan dezelfde certificeringsexamens te onderwerpen als SAP-consultants. De eerste resultaten waren slecht, maar na uitgebreide afstemming van de context en een focus op het leveren van waarde aan het partnerecosysteem scoort Joule nu consistent 95% of hoger.
“We testten niet alleen vanuit een dataperspectief, maar we konden ook samenwerken met al onze consultants om te komen tot wat wij de gouden dataset noemen”, voegde Han eraan toe. “Het is niet-deterministisch, op taal gebaseerd en grondig gebaseerd op de expertise van menselijke consultants. We hebben samengewerkt met de hele adviesorganisatie om de gouden dataset voor alle producten handmatig te labelen. Dat is de basis geworden voor alles wat we zelfs nu doen.”
Een ultramoderne indexeringspijplijn
Joule voor Consultants blijft realtime up-to-date. Een ultramoderne indexeringspijplijn pusht nieuwe SAP-documentatie en release-inhoud in het model zodra deze wordt gepubliceerd, waardoor consultants erop kunnen vertrouwen dat elk antwoord de meest actuele richtlijnen weerspiegelt.
“Dit is puur technisch werk dat wordt gedaan door onze datawetenschappers en engineers, waarbij veel onderliggende SAP-technologie wordt gebruikt”, legt Kaura uit. “We maken gebruik van de zakelijke basislaag van SAP, documentbasisdiensten en een groot aantal speciaal gebouwde systemen om op de hoogte te blijven van de actuele gebeurtenissen in het systeem.”
SAP Business AI heeft ook afstemming op bestuursniveau, waardoor dit niet slechts een inspanning van één team is, maar een prioriteit voor het hele bedrijf. Ze hebben sterke interne partnerschappen opgebouwd met contenteigenaren in heel SAP, waaronder SAP Learning, SAP Community, SAP Help, productteams en consultantteams. Samen werken ze voortdurend bedrijfseigen inhoud bij, zoals SAP Notes, Knowledge Base Articles (KBA’s) en andere domeinspecifieke richtlijnen die de evoluerende best practices van SAP weerspiegelen.
Dit alles betekent dat Joule for Consultants die voortdurend vernieuwde gegevens kan gebruiken en vrijwel in realtime antwoorden kan geven. Het is het soort onderzoek dat anders een adviseur uren zou vergen. Maar informatie die rechtstreeks uit de bron komt, geeft consultants de meest actuele en gezaghebbende richtlijnen die beschikbaar zijn, waardoor de misstappen in een vroeg stadium worden geëlimineerd die een project maanden later kunnen laten ontsporen als de scope niet is afgestemd op de nieuwste mogelijkheden.
Garanderen van beveiliging op bedrijfsniveau
SAP bouwt een product dat relevant, betrouwbaar en verantwoord is, zegt Han. Als bedrijf dat in Europa is opgericht, neemt het de privacy van gegevens serieus en houdt het zich aan de AVG en andere EU-bedrijfsregelgeving. De kern van SAP Business AI wordt gevormd door de AI Foundation, het AI-besturingssysteem dat AI aanstuurt met ingebouwde beveiliging, ethiek en orkestratie, waarbij gebruik wordt gemaakt van automatisering en intelligentie om levenscycli te beheren, bronnen te optimaliseren en de veerkracht te vergroten.
Alle LLM’s die SAP en haar klanten gebruiken, opereren binnen de AI-basis, die privé- en bedrijfseigen gegevens beschermt tegen lekken. Naast gegevensbescherming behandelt SAP ook op ondernemingsniveau vooroordelen, ethiek en beveiliging, waarbij mensen betrokken zijn bij het uitvoeren van checks and balances.
“We beschikken over een beveiligingsframework op bedrijfsniveau en over snelle injectie- en vangrailtests”, zegt Kaura. “De orkestratielaag, gebouwd binnen de AI Foundation, anonimiseert de input en modereert deze om kwaadaardige inhoud te voorkomen. Dat zorgt ervoor dat de output die we aan onze klanten geven relevant is voor het SAP-ecosysteem, relevant voor het domein waar ze naar vragen, en niet alleen voor generieke LLM-overschotten. Deze set tools, van de raamwerklaag tot de applicatielaag tot aan de productstandaarden, en ook het zeer grondig testen is van cruciaal belang om ons product te beveiligen. Dan en alleen dan kan het onze klanten en partners bereiken.”
De grenzen van Joule verleggen voor consultants
“We hebben nog maar nauwelijks de oppervlakte bereikt van wat LLM’s en agentische AI te bieden hebben”, zegt Han. “Het verkrijgen van toegang tot kennis is nog maar het begin. We gaan een veel dieper inzicht krijgen in de SAP-systemen van klanten en kunnen hen helpen bij het implementeren en transformeren van hun reis. Het productteam en onze ingenieurs werken eraan om de tool transformatiever te maken, in staat om meer inzichten te verkrijgen, verbinding te maken met de systemen van klanten en hun processen te begrijpen en te optimaliseren, inclusief het genereren van code en het afhandelen van klantcodemigratie.”
De volgende stap is het toevoegen van een tweede laag aarding. Het klantenbestand van SAP is enorm en het partner-ecosysteem heeft talloze bedrijfsscenario’s geïmplementeerd. Het verankeren van Joule in de institutionele kennis van SAP was de eerste mijlpaal; de volgende is het aanbrengen van lagen in de eigen context van elke klant: historische systeemgegevens, procesontwerpen, implementatieblauwdrukken en interne documentatie. Hierdoor verandert Joule van SAP-bewust in klantbewust en biedt begeleiding die aansluit bij de manier waarop een bedrijf feitelijk opereert.
“Zie het als het verankeren van uw kennis bovenop SAP-kennis, waardoor u nauwkeurigere en relevantere begeleiding krijgt”, zegt Kaura. “Informatie die anders verloren zou kunnen gaan, kan bovenop Joule for Consultants worden opgeslagen. Ons systeem verwerkt deze informatie en zorgt ervoor dat deze op de juiste manier en op het juiste moment bij u terechtkomt.”
Dankzij deze uitgebreide basis kan Joule zijn begeleiding aanpassen aan de rol van de consultant – of deze nu werkt als architect, functioneel consultant of technisch consultant.
“Wij leveren de informatie die ze nodig hebben voor een bepaalde klantconfiguratie”, legt Han uit. “Dan kunnen we niet alleen generieke vragen beantwoorden, maar ook hun specifieke configuratie. Van daaruit is het een stap verder om meer inzichten te genereren en meer acties te ondernemen.”
Gesponsorde artikelen zijn inhoud die is geproduceerd door een bedrijf dat voor de post betaalt of een zakelijke relatie heeft met VentureBeat, en deze is altijd duidelijk gemarkeerd. Voor meer informatie kunt u contact opnemen met sales@venturebeat.com.
