Paul Arends
Tegenwoordig voegt het platform Hugging Face gemiddeld elke 7 seconden een nieuw model toe aan hun gezichtsomarmende platform, met bijna 1,9 miljoen modellen beschikbaar voor ontwikkelaars over de hele wereld. Deze ongeëvenaarde schaal, geleid door wereldwijde medewerkers die zowel vertrouwde instanties als onafhankelijke makers omvatten, stimuleert een golf van innovatie en benadrukt de noodzaak om de supply chain van kunstmatige intelligentie te waarborgen.
Zoals eerder benadrukt in onze analyse, doordringen de risico’s van de supply chain nu elke fase van de levenscyclus van AI, van afhankelijkheden van kwetsbare software en bestanden tot sets vergiftigde of niet-conforme gegevens. Gezien deze complexiteit wordt het voor individuele organisaties steeds moeilijker om deze problemen alleen aan te pakken. Effectieve veiligheid in het AI-landschap vereist nauwe samenwerking binnen de gemeenschap om de AI te waarborgen.
Verhoog de veiligheid van de AI-supply chain met Hugging Face
Bij Cisco hebben we de missie om elke organisatie op aarde te helpen bij het veilig implementeren van hun AI-strategie. Vandaag zetten we een stap voorwaarts in deze missie. We zijn verheugd om een strategische relatie aan te kondigen tussen het AI-team van Cisco en Hugging Face, waarbij ’s werelds belangrijkste AI-hubmodel wordt samengebracht met de expertise van Cisco in het waarborgen van digitale infrastructuren.
Als onderdeel van deze uitgebreide samenwerking biedt de Artificial Intelligence Cisco Foundation platform- en bestandsscans voor alle openbaar geladen bestanden op het Hugging Face AI-platform, met behulp van een uniforme malwarescanfunctie aangedreven door aangepaste detectiefuncties in een Clamav-update.
Door de centrale rol van Hugging Face in open-source AI-intelligentie te combineren met de scanmogelijkheden van Cisco voor malware, wordt een rigoureuzere controle, vroege detectie van kwetsbaarheden en gedeelde bedreigingsinformatie mogelijk gemaakt, wat leidt tot meer vertrouwen en veiligheid in het gehele AI-ecosysteem.
“We zijn verheugd om samen te werken met de Cisco Foundation Ai om gebruikers van Hugging Face te beschermen. We scannen bestanden met Clamav, de gratis malwaredetectiescanner en open source van Cisco Talos, al enkele jaren. Met de nieuwe Clamav-update kunnen we nu volledige bescherming bieden om de leiding te nemen bij het omarmen van onze partner van Hugging Face in AI met open source-intelligentie en Cisco’s diepgaande expertise op het gebied van computerveiligheid, waardoor organisaties en individuen over de hele wereld met vertrouwen AI kunnen omarmen.”
Julien Chaumond, CTO, Hugging Face
Na onze samenwerking maken we de antimalware van het AI-model openbaar:
- Clamav kan nu schadelijke code in AI-modellen detecteren – We stellen deze mogelijkheid wereldwijd beschikbaar. Naast de traditionele malwaredetectie kan Clamav nu ook risico’s van desinformatie detecteren in bestandsindelingen van populaire modellen zoals .pt en .PKL (in milliseconden, niet minuten). Deze verbeterde functionaliteit is nu beschikbaar voor iedereen die Clamav gebruikt.
- Clamav is de enige antivirusengine die zich specifiek richt op AI-risico’s – Clamav is de enige antivirusengine die schadelijke modellen detecteert, zowel in Hugging Face als via ViRusteteal, een intelligentieplatform voor populaire bedreigingen dat de geladen modellen zal scannen.
We zijn trots om ons werk aan te bieden aan de veiligheid van Cisco en nu aan de hele Cisco-klantensupply chain, de grootste AI- en veiligheidsgemeenschap. We zetten ons in om kunstmatige intelligentie-ontwikkelaars op de juiste manier te beschermen tegen de risico’s van de supply chain.
Leer meer
Het AI-team van de Cisco Foundation heeft onlangs Cerberus gelanceerd, een 24/7 bewaker voor de AI-toeleveringsketen. Cerberus inspecteert modellen bij het inladen op Hugging Face en deelt resultaten in gestandaardiseerde feeds die door Cisco-beveiligingsproducten worden gebruikt om een strikt toegangsbeleid voor de AI-toeleveringsketen te creëren en handhaven.
Met de release van Clamav 1.5 biedt Cisco diepere inzichten in de supply chain van modellen aan de veiligheidsgemeenschap. Clamav 1.5 voegt native ondersteuning toe voor de identificatie van modelbestanden aan het scansysteem om specifieke modeldetectielogica mogelijk te maken en een veiliger beheer van gedetecteerde bedreigingen mogelijk te maken. Samen met onze kenmerkende updates (die geen Clamav 1.5 vereisen) stelt Clamav gebruikers in staat om het opkomende AI-model-ecosysteem te beschermen. Deze capaciteiten zijn ook beschikbaar in het Cisco-portfolio van producten met onze Talos Threat Intelligence-services.
Gebruikers van Cisco Secure Access kunnen configureren hoe ze toegang willen verlenen tot Hugging Face-repositories, potentiële bedreigingen in AI-modellen blokkeren, modellen blokkeren met risicovolle licenties en nalevingsbeleid toepassen op modellen afkomstig van gevoelige organisaties of politiek gevoelige regio’s.
Eerder hebben we veilige eindpuntbescherming, veilige verdediging tegen bedreigingen en e-mails, veilige toegang en veilige firewall gelanceerd. Alle bestaande gebruikers van Cisco Secure Endpoint en bedreigings- en e-mailbeveiliging zijn beschermd tegen schadelijke artefacten in de AI-supply chain.
Bezoek onze website voor meer informatie over het AI-team van Cisco Foundation en neem contact met ons op!
We horen graag wat je ervan vindt! Stel vragen en blijf in contact met Cisco Security via sociale media.
Cisco Security Social Media
LinkedIn
Facebook
Instagram
X
Deel:
