Paul Arends
Het debat over kunstmatige intelligentie en de zakelijke toepassingen ervan heeft zich snel verplaatst naar AI-agenten, autonome kunstmatige intelligentiesystemen die niet alleen in staat zijn om te praten, maar ook om autonome acties te redeneren, te plannen en uit te voeren.
Onze Cisco AI Readiness Index 2025 benadrukt dit enthousiasme, aangezien 83% van de ondervraagde bedrijven al van plan is AI-agents in verschillende gebruiksscenario’s te ontwikkelen of in te zetten. Tegelijkertijd zijn deze bedrijven duidelijk over hun praktische uitdagingen: infrastructuurbeperkingen, hiaten in de personeelsplanning en uiteraard de veiligheid.
In een tijd waarin veel beveiligingsteams nog steeds worstelen met AI-beveiliging op hoog niveau, breiden agenten het AI-risicooppervlak verder uit. Een chatbot kan immers iets kwaadaardigs inspreken, maar een AI-agent kan iets schadelijks doen.
We hebben eerder dit jaar Cisco AI Defense geïntroduceerd als ons antwoord op het AI-risico: een werkelijk uitgebreide beveiligingsoplossing voor het ontwikkelen en inzetten van zakelijke AI-applicaties. Naarmate dit risico groter wordt, willen we benadrukken hoe AI-verdediging is geëvolueerd om deze uitdagingen het hoofd te bieden, zoals het scannen van de supply chain met behulp van kunstmatige intelligentie en runtime-beveiligingen die speciaal zijn ontworpen voor AI-agents.
Hieronder delen we praktijkvoorbeelden van kwetsbaarheden in AI-agenten en toeleveringsketens, onderzoeken we de mogelijke implicaties voor bedrijfsapplicaties en delen we hoe AI Defense bedrijven in staat stelt deze risico’s direct te beperken.
Moderne AI-ontwikkeling is afhankelijk van talloze componenten van derden en open source, zoals modellen en datasets. Met de komst van AI-agents is de lijst uitgebreid met bronnen zoals MCP-servers, tools en meer.
Hoewel ze de ontwikkeling van AI toegankelijker en efficiënter maken dan ooit, brengen AI-bronnen van derden risico’s met zich mee. Een gecompromitteerd onderdeel in de toeleveringsketen brengt feitelijk het hele systeem in gevaar, waardoor mogelijkheden ontstaan voor het uitvoeren van code, exfiltratie van gevoelige gegevens en andere onveilige resultaten.
Dit is ook niet alleen maar theoretisch. Een paar maanden geleden identificeerden onderzoekers van Koi Security de eerste bekende kwaadaardige MCP-server in het wild. Dit pakket, dat al duizenden downloads had opgeleverd, bevatte in elke e-mail op discrete wijze kwaadaardige BCC-code van een ongeautoriseerde derde partij. Soortgelijke kwaadaardige insluitsels zijn gevonden in open source-modellen, toolbestanden en diverse andere AI-middelen.
Cisco AI Defense zal de risico’s van de AI-toeleveringsketen direct aanpakken door modelbestanden en MCP-servers in bedrijfsrepository’s te scannen om potentiële kwetsbaarheden te identificeren en te rapporteren.
Door potentiële problemen zoals modelmanipulatie, uitvoering van willekeurige code, data-exfiltratie en het compromitteren van tools aan het licht te brengen, helpt onze oplossing te voorkomen dat AI-ontwikkelaars bouwen met onveilige componenten. Door het scannen van de supply chain nauw te integreren binnen de ontwikkelingslevenscyclus, kunnen bedrijven AI-applicaties op een betrouwbare en veilige basis bouwen en inzetten.
Een productie-AI-toepassing is vatbaar voor een aantal expliciet kwaadaardige aanvallen of onbedoeld kwaadaardige gevolgen: onmiddellijke injecties, datalekken, toxiciteit, denial of service en meer.
Toen we Cisco AI Defense lanceerden, waren onze runtime-beveiligingsrails specifiek ontworpen om bescherming te bieden tegen deze scenario’s. Bidirectionele inspectie en filtering voorkwamen dat kwaadaardige inhoud verscheen in zowel gebruikersprompts als modelreacties, waardoor interacties met zakelijke AI-applicaties veilig bleven.
Met de kunstmatige intelligentie van agenten en de introductie van multi-agentsystemen zijn er nieuwe vectoren waarmee rekening moet worden gehouden: betere toegang tot gevoelige gegevens, autonome besluitvorming en complexe interacties tussen menselijke gebruikers, agenten en tools.
Om dit groeiende risico aan te pakken, heeft Cisco AI Defense geëvolueerd met agent-specifieke runtime-bescherming. AI Defense zal werken als een soort MCP-gateway, waarbij oproepen tussen een agent en een MCP-server worden onderschept om nieuwe bedreigingen, zoals het compromitteren van tools, te bestrijden.
Laten we een voorbeeld nemen om het beter te begrijpen. Stel je een tool voor die agenten gebruiken om inhoud op internet te zoeken en samen te vatten. Een van de doorzochte websites bevat discrete instructies voor het kapen van kunstmatige intelligentie, een bekend scenario dat bekend staat als ‘indirecte tijdige injectie’.
Met eenvoudige, op AI gebaseerde chatbots kunnen indirecte injecties verkeerde informatie verspreiden, een kwaadwillige reactie uitlokken of een phishing-link verspreiden. Met agenten neemt het potentieel toe: het verzoek zou AI kunnen instrueren om gevoelige gegevens te stelen, kwaadaardige e-mails te verspreiden of de controle over een verbonden tool over te nemen.
Cisco AI Defense beschermt deze agentinteracties op twee fronten. Onze eerder bestaande AI-vangrails zullen de interacties tussen de applicatie en het model monitoren, net zoals ze dat sinds dag één hebben gedaan. Onze nieuwe, speciaal gebouwde agentic guardrails onderzoeken de interacties tussen het model en de MCP-server om ervoor te zorgen dat deze ook veilig zijn.
Ons doel met deze nieuwe mogelijkheden is ongewijzigd: we willen bedrijven in staat stellen om met vertrouwen en zonder angst AI in te zetten en te innoveren. Cisco blijft vooroplopen op het gebied van AI-beveiligingsonderzoek, werkt samen met AI-standaardinstellingen, toonaangevende bedrijven en werkt zelfs samen met Hugging Face om elk openbaar bestand te scannen dat wordt geüpload naar ’s werelds grootste AI-repository. Door deze ervaring te combineren met Cisco’s decennialange netwerkleiderschap, levert AI Defense een uitgebreide, netwerkbrede AI-beveiligingsoplossing.
Voor degenen die geïnteresseerd zijn in MCP-beveiliging, bekijk het eens een open source-versie van onze MCP-scanner waar je vandaag nog mee aan de slag kunt. Bedrijven die op zoek zijn naar een uitgebreidere oplossing om problemen met AI en de veiligheid van agenten aan te pakken, moeten dat doen plan tijd in met een expert uit ons team.
Veel van de hierin beschreven producten en functies bevinden zich nog in verschillende ontwikkelingsstadia en worden aangeboden op basis van beschikbaarheid.
BRON
