Paul Arends
AI-systemen ontwikkelen zich sneller dan de meeste beveiligingsprogramma’s kunnen bijhouden. Modellen veranderen, tools vermenigvuldigen zich en het gedrag van agenten ontstaat in codebases en containers. Dit roept een simpele maar dringende vraag op: waaruit bestaat een AI-systeem en hoe wordt het gebouwd?
Het antwoord op deze vraag is de AI Bill of Materials (AI BOM) van Cisco, nu beschikbaar als onderdeel van Cisco AI Defense en als open source tool. Het biedt beveiligings- en engineeringteams een duidelijke inventaris van AI-bronnen en de context die nodig is om te begrijpen hoe deze AI-bronnen worden georkestreerd in de workflow van een agent.
De kloof in de AI-inventaris
Traditionele Software Bill of Materials (SBOM) richt zich op pakketten en afhankelijkheden. Aan de andere kant bieden cloudzichtbaarheidsplatforms inzicht in de infrastructuur die in de cloud wordt geïmplementeerd, inclusief AI-bronnen zoals modellen, MCP-tools, agenten en aanwijzingen. Dit is echter niet voldoende voor volledige AI-zichtbaarheid. Een AI-chatapplicatie kan bijvoorbeeld verbinding maken met meerdere agenten, verschillende MCP-tools gebruiken en MCP-gegevensopslag zoals vectordatabases om een consistent antwoord op gebruikersvragen te creëren. Organisaties hebben diepgaand inzicht nodig in specifieke AI-bouwstenen, zoals modellen, agenten, tools, aanwijzingen en de workflows die daarmee verbonden zijn door naar de bron van de AI-applicatie te gaan door code in coderepository’s of containerimages te scannen om een volledige AI BOM te produceren.
Zonder dit diepgaande inzicht lopen teams risico’s in de AI-toeleveringsketen, zoals:
- Niet-goedgekeurde of onverwachte modellen die in productie worden genomen
- Schaduwtools of agentfunctionaliteit die verder reikt dan het beoogde bereik
- AI-workflows die gevoelige gegevens raken zonder duidelijke afstamming
- Onvolledig beheer en audittrajecten voor AI-systemen
Cisco AI BOM: een onderscheidende aanpak
De AI BOM van Cisco is specifiek ontworpen om de AI-bronnen die worden gebruikt in uw AI-applicatie in kaart te brengen. In de eerste release scant het codebases en containerimages om AI-bronnen zoals agenten, aanwijzingen, sjablonen en tools te identificeren om een gestructureerd rapport te produceren over hoe deze AI-bronnen samen worden gebruikt. Dit vormt de basis voor een diepere analyse van afstamming en afhankelijkheden.
De AI BOM-aanpak van Cisco is gebaseerd op drie principes:
- Ontdekking van AI-bronnen
Dit richt zich op AI-middelen die van belang zijn voor de veiligheid en het bestuur, en niet alleen op generieke afhankelijkheden. Traditionele SBOM’s hebben zich gericht op pakketafhankelijkheden die in een softwareproduct worden gebruikt. - Een samengestelde kennisbank
Het wordt mogelijk gemaakt door een kennisbank die regelmatig wordt bijgewerkt met een uitgebreide categorisering van alle codeconstructies, inclusief meer dan 10 populaire AI-frameworks en agenten zoals Langchain, OpenAI, AWS BedRock, Autogen, Anthropic SDK en Google GenAI, om er maar een paar te noemen. Dit levert waardevolle achtergrondinformatie op voor het in kaart brengen van ontdekte AI-bronnen in de broncode. - Grafiek van de afhankelijkheid van AI-bronnen
AI BOM bouwt afhankelijkheidsgrafieken die laten zien hoe AI-bronnen binnen een AI-toepassing worden georkestreerd. Dit omvat relaties tussen agenten, modellen, MCP-tools en aanwijzingen, op basis van codescans.
Deze combinatie maakt de AI BOM uniek inzetbaar. Het laat zien welke hulpbronnen aanwezig zijn, hoe ze worden gebruikt door AI-toepassingen en waar ze zich bevinden in uw AI-ecosysteem.
De benadering van Cisco voor AI-beveiliging
Cisco AI Defense beschermt de levenscyclus van AI-applicaties via een uniforme, allesomvattende aanpak van ontdekking, detectie en bescherming.
Het beschermen van de levenscyclus van AI-applicaties met behulp van AI Defense begint met ontdekking die zich richt op het identificeren van AI-middelen en het begrijpen hoe ze worden gebruikt. AI Defense biedt AI-cloudzichtbaarheid in modellen, agenten en verbonden gegevensbronnen. AI BOM vergroot deze ontdekking door te identificeren hoe AI-applicaties worden gebouwd op basis van broncode en containerimages, waardoor inzicht wordt verkregen in AI-bronnen zoals modellen, agenten, MCP-tools en frameworks.
Detectie gebruikt deze zichtbaarheid van activa om risico’s te identificeren voordat deze de productie beïnvloeden. AI Defense scant modelbestanden, agenten, aanwijzingen en MCP-tools om kwaadaardige of onveilige AI-middelen te detecteren als onderdeel van het risicobeheer van de AI-toeleveringsketen. Het voert ook algoritmische red teaming uit via AI-validatie, waarmee kwetsbaarheden op het gebied van veiligheid, beveiliging en privacy in AI-middelen en -applicaties worden geïdentificeerd.
Bescherming vermindert bedreigingen tijdens runtime. Met volledig inzicht in AI-bronnen past AI Defense Runtime vangrails toe op productie-AI-applicaties en -agents, waardoor kwaadaardige reacties en aanvallen in realtime worden geblokkeerd om gedistribueerde AI-applicaties te beschermen. Samen helpen deze mogelijkheden teams verder te gaan dan ad-hocaudits naar consistente en herhaalbare AI-beveiligingspraktijken gedurende de levenscyclus van AI-applicaties.
Begin met Cisco’s AI BOM, een open source CLI-gebaseerd hulpprogramma dat nu beschikbaar is voor initiële experimenten, uitbreidingen en integratie in workflows voor ontwikkelaars. Verken het project, bekijk de aanpak en draag bij aan de gemeenschap in de GitHub-repository:
