Ik rapporteer vanuit Davos, Zwitserland, waar duizenden bedrijfsleiders en politici zijn aangekomen bij de Wereld Economisch Forum om elkaar de hand te schudden, over zaken te praten en misschien zelfs een paar skipistes te maken.
Sommige leidinggevenden met wie ik deze week heb gesproken, hadden grote zorgen over AI, maar geen van hen had er iets mee te maken potentiële zeepbel.
Raj Sharma, EY’s wereldwijde managing partner voor groei en innovatie, zegt dat er niet genoeg wordt gesproken over AI-beveiliging, en dan met name over het beheer van AI-agenten en hun levenscyclus.
“Het heeft toegang tot uw gegevens. Het heeft geen naam, dus er is geen identiteit of iets dat daarmee samenhangt”, zei Sharma.
Vergelijk dat eens met mensen, waarbij elk computersysteem en elk stukje data dat ze aanraken vaak wordt gevolgd.
‘We moeten op industrieel niveau bouwen beveiliging voor AI-agenten in dat specifieke gebied. Voor mij is dat nog steeds een gat waar iemand aan moet werken”, zei Sharma. “Iedereen heeft het over een goed spel. Maar als je onder de dekens kijkt, is het nog steeds niet volwassen.”
“Dat houdt me ’s nachts wakker”, voegde Sharma eraan toe.
Hij is niet de enige. Tim Walsh, de CEO van KPMG US, vertelde me dat het grootste onderwerp waar hij regelmatig met CEO’s over praat cyberrisico’s zijn, specifiek gerelateerd aan AI.
AI-agenten zijn de nieuwste wending in de aanhoudende zorgen van leidinggevenden over cyberveiligheid, en het blijkt een ongelooflijk uitdagend probleem te zijn. Enigszins ironisch genoeg is de enige manier om de dreiging te bestrijden het gebruik van … meer AI.
In sommige gevallen is het risico zo groot geworden dat de tijdlijnen voor de AI-plannen van bedrijven verschuiven.
“Het is niet dat ze geen vooruitgang boeken, maar ze nemen even de tijd om ervoor te zorgen dat hun omgeving veilig is en laten de gegevens misschien zelfs nog wat langer op locatie staan, zodat ze er zeker van kunnen zijn dat hun gegevensbeveiliging op orde is”, vertelde Walsh me.
Walsh zei dat een andere “reële zorg” de dreiging is van kwantumcomputers vanuit een veiligheidsperspectief.
Hoewel hij erkende dat het nog een paar jaar duurt voordat de technologie volledig is ontwikkeld, is de kracht ervan ongelooflijk.
“Quantum breekt alles”, zei Walsh. ‘Ik bedoel, allemaal encryptie.’
Dat heeft ertoe geleid dat bedrijven naar hun systemen zijn gaan kijken en dingen opnieuw hebben gecodeerd, wat geen gemakkelijke taak is.
“We steken ook veel tijd in het helpen van bedrijven om na te denken: hoe ziet dat eruit? Hoe structureer je dat? Hoe lang gaat dat duren?” zei Walsh.
