Opbouwen van vertrouwen in AI-agent ecosystemen

Vertrouwen opbouwen in ecosystemen van AI-agenten

We gaan van ‘AI-assistenten die reageren’ naar AI-agenten die handelen. Agenttoepassingen plannen, roepen tools aan, roepen workflows op, werken samen met andere agenten en voeren vaak code uit. Voor ondernemingen vertegenwoordigt deze uitgebreide mogelijkheid ook een groter aanvalsoppervlak, en wordt vertrouwen een kernactiviteit en technisch eigendom.

Cisco draagt actief bij aan het AI-beveiligingsecosysteem via open source-hulpmiddelenveiligheidskaders en samenwerking met de Coalitie voor Veilige Kunstmatige Intelligentie (CoSAI), OWASPen andere brancheorganisaties. Terwijl organisaties overstappen van experimenteren naar adoptie op ondernemingsniveau, vereist de weg voorwaarts zowel inzicht in de risico’s als het opstellen van praktische, herhaalbare beveiligingsrichtlijnen.

Deze discussie onderzoekt niet alleen de kwetsbaarheden die agenttoepassingen bedreigen, maar ook de concrete raamwerken en best practices die bedrijven kunnen gebruiken om veilige en betrouwbare AI-agent-ecosystemen op grote schaal te bouwen.

Bedreigingen van kunstmatige intelligentie in het tijdperk van autonomie

Traditionele AI-toepassingen produceren vooral content. Agenttoepassingen komen in actie. Dit verschil verandert alles voor bedrijven. Of een agent nu toegang heeft tot datastores, een productieconfiguratie kan wijzigen, een workflowstap kan goedkeuren, een pull-request kan creëren of CI/CD kan activeren, het beveiligingsmodel dekt de integriteit en verantwoordelijkheid van de uitvoering. Risicobeheer moet verder gaan dan eenvoudige modelnauwkeurigheid.

In agentecosystemen wordt vertrouwen een eigenschap van het hele systeem: identiteit, machtigingen, toolinterfaces, agentgeheugen, runtime-beheersing, inter-agentprotocollen, monitoring en incidentrespons. Deze technische beslissingen bepalen de bedrijfsrisicopositie.

Het ‘AI-agent-ecosysteem’ omvat vele architecturen, waaronder:

Single-agent workflowsystemen die bedrijfstools orkestreren

Codeermiddelen die invloed hebben op de kwaliteit, veiligheid en snelheid van levering van software

Multi-agentsystemen (MAS) die gespecialiseerde capaciteiten coördineren

Interoperabele ecosystemen die leveranciers, platforms en partners omvatten

Naarmate deze systemen meer gedistribueerd en onderling verbonden raken, wordt de grens van het bedrijfsvertrouwen dienovereenkomstig groter.

Bescherm AI-codering als bedrijfsdiscipline met Project CodeGuard

Cisco heeft het aangekondigd CodeGuard-project als een open source, model-agnostisch raamwerk dat is ontworpen om organisaties te helpen beveiliging te integreren in AI-ondersteunde softwareontwikkeling. In plaats van te vertrouwen op het oordeel van individuele ontwikkelaars, stelt CodeGuard bedrijven in staat beveiligingsverwachtingen te internaliseren in AI-coderingsworkflows, vóór, tijdens en na het genereren van code.

Project CodeGuard pakt problemen aan zoals encryptie, authenticatie en autorisatie, afhankelijkheidsrisico, het versterken van de cloud en infrastructuur als code, en gegevensbescherming.

Voor organisaties die AI-ondersteunde ontwikkeling opschalen, biedt CodeGuard een manier om van ‘standaard beveiligde code’ een voorspelbaar resultaat te maken in plaats van een streven. Cisco past het CodeGuard-project ook intern toe om systeem- en productkwetsbaarheden te identificeren en te verhelpen, waarmee wordt gedemonstreerd hoe deze praktijken op schaal kunnen worden geoperationaliseerd.

Model Context Protocol (MCP) beveiliging en bedrijfsrisico.

MCP verbindt AI-applicaties en agenten met zakelijke tools en bronnen. Beveiliging van de toeleveringsketen, identiteit, toegangscontrole, integriteitsverificatie, isolatiefouten en levenscyclusbeheer bij MCP-implementaties zijn prioriteiten voor de meeste Chief Security Information Officers (CISO’s).

Cisco’s MCP-scanner is een open source-tool die is ontworpen om organisaties te helpen inzicht te krijgen in MCP-integraties en de risico’s te verminderen wanneer AI-agenten communiceren met externe tools en services. Door MCP-verbindingen te analyseren en te valideren, helpt MCP Scanner bedrijven ervoor te zorgen dat AI-agents niet per ongeluk gevoelige gegevens vrijgeven of beveiligingskwetsbaarheden introduceren.

Ook samenwerking binnen de sector is van cruciaal belang. CoSAI heeft richtlijnen gepubliceerd om organisaties te helpen bij het aanpakken van identiteits-, toegangscontrole, integriteitsverificatie en isolatierisico’s bij MCP-implementaties. OWASP heeft dit werk aangevuld met een spiekbriefje gericht op het veilig gebruik van MCP-servers van derden en het reguleren van detectie en verificatie.

Stel vertrouwenscontroles in voor de connectiviteit van agenten

MCP-vertrouwenscontroles die kunnen worden gebruikt, zijn onder meer:

Authenticatie en autorisatie van MCP-servers en clients met strikt beperkte machtigingen

Behandel de uitkomsten van tools als onbetrouwbaar en pas validatie toe voordat ze beslissingen beïnvloeden

Pas veilige detectie, herkomstcontroles en goedkeuringsworkflows toe

Isoleer instrumenten en operaties met een hoog risico

Bouw controleerbaarheid in bij elke interactie met de tool

Deze controles helpen bedrijven om van ad-hocexperimenten over te stappen naar gecontroleerde en controleerbare AI-agentoperaties.

De MCP-gemeenschap heeft ook aanbevelingen gedaan voor veilige autorisatie met behulp van OAuth 2.1, waarmee het belang van op standaarden gebaseerde identiteits- en toegangscontrole wordt versterkt wanneer AI-agenten communiceren met gevoelige bedrijfsbronnen.

OWASP Top 10 voor agenttoepassingen als basis voor governance

DE OWASP Top 10 voor agenttoepassingen biedt een praktische basis voor organisatorische beveiligingsplanning. Kader vertrouwen rond verifieerbaar gedrag, minimale interventie en sterke controles op de grenzen van identiteit en hulpmiddelen – principes die nauw aansluiten bij de modellen voor ondernemingsbestuur.

Een gemakkelijke manier voor managementteams om deze lijst toe te passen, is door elke categorie als een governancevereiste te beschouwen. Als de organisatie niet duidelijk kan uitleggen hoe zij deze risico’s voorkomt, detecteert en ervan herstelt, is het agent-ecosysteem nog niet klaar voor de onderneming.