Zogeheten guardian agents, AI-technologieën die toezicht houden op autonome systemen, zullen in 2030 naar verwachting goed zijn voor 10 tot 15 procent van de markt voor agentic AI. Dat voorspelt onderzoeks- en adviesbureau Gartner. Deze technologieën worden steeds belangrijker naarmate bedrijven meer geavanceerde AI-toepassingen inzetten die zelfstandig beslissingen nemen.
Guardian agents zijn ontwikkeld om de betrouwbaarheid en veiligheid van AI-toepassingen te waarborgen. Ze analyseren AI-uitvoer, houden gedrag in de gaten en grijpen indien nodig in. In geavanceerdere vormen kunnen ze zelfs zelfstandig plannen maken, uitvoeren of AI-acties blokkeren als die afwijken van vooraf vastgestelde doelen.
Uit een peiling van Gartner onder 147 CIO’s en IT-leiders blijkt dat 24 procent inmiddels een klein aantal AI-agents heeft geïmplementeerd. Vier procent gebruikt er al meer dan een dozijn. De helft van de ondervraagden is bezig met onderzoek of experimenten, terwijl 17 procent aangeeft vóór eind 2026 met agentic AI aan de slag te willen. Volgens Gartner groeit daarmee ook de behoefte aan technologie die risico’s automatisch detecteert en beheerst – een rol die guardian agents kunnen vervullen.
“Agentic AI kan ongewenste gevolgen hebben als er geen goede vangrails zijn ingebouwd,” aldus Avivah Litan, VP Distinguished Analyst bij Gartner. “Guardian agents combineren realtime beslissingen met risicobeheersing, en gebruiken geavanceerde evaluatietechnieken om AI-systemen binnen de perken te houden.”
De risico’s nemen toe naarmate AI-agenten krachtiger en breder ingezet worden. Uit dezelfde peiling blijkt dat 52 procent van de agenten nu of in de toekomst wordt ingezet voor interne processen zoals IT, HR of finance. Bij 23 procent gaat het om klantgerichte toepassingen. Met die uitbreiding komen ook bedreigingen zoals datavervalsing, het misbruiken van inloggegevens of interactie met malafide websites in beeld. Daarnaast kunnen agenten onbedoeld afwijkend gedrag vertonen, met potentieel reputatie- of operationele schade tot gevolg.
Volgens Litan schiet menselijke controle tekort in een wereld waar AI-systemen razendsnel met elkaar communiceren en handelen. “Guardian agents zijn essentieel geworden om fouten en misbruik te voorkomen. Ze nemen het toezicht over op een schaal en snelheid die mensen simpelweg niet kunnen bijhouden.”
Gartner onderscheidt drie hoofdtaken die guardian agents kunnen vervullen: het controleren van AI-uitvoer op juistheid en gepastheid, het monitoren van acties voor verdere beoordeling, en het ingrijpen wanneer AI-acties niet wenselijk zijn. Welke rol ook wordt toegepast, het doel is altijd hetzelfde: zorgen dat AI zich veilig en verantwoord gedraagt.
Tegen 2028 zal naar verwachting 70 procent van alle AI-applicaties draaien op multi-agent systemen. Gartner voorziet dan ook dat guardian agents een vaste plek zullen krijgen in het AI-landschap van bedrijven, als onmisbare controlelaag in een steeds complexer digitaal ecosysteem.
