Wees alert op dubbelagenten: de rol van AI in cyberbeveiliging.

Kunstmatige intelligentie wordt snel de ruggengraat van onze wereld en belooft ongekende productiviteit en innovatie. Maar naarmate organisaties AI-agenten inzetten om nieuwe kansen te benutten en groei te stimuleren, worden ze ook geconfronteerd met een nieuwe generatie cyberbeveiligingsbedreigingen.

Er zijn hier bij Microsoft veel fans van StarTrek, inclusief mezelf. Een van onze engineeringmanagers gaf me een levensgroot kartonnen beeld van Data dat zich naast de deur van mijn kantoor verstopt. Dus terwijl ik naar dat fragment kijk, denk ik aan het grote AI-veiligheidsdilemma: zal AI onze beste vriend of onze ergste nachtmerrie zijn? Geïnspireerd door de dualiteit van Android-officier Data en zijn kwaadaardige tweelingbroer Lore in het StarTrek-universum kunnen de huidige AI-agenten de cyberbeveiligingsverdediging versterken of, als ze slecht worden aangepakt, doorbreken.

De toestroom van agenten is reëel. IDC-onderzoek[1] voorspelt dat er in 2028 1,3 miljard agenten in het wild zullen zijn. Als we nadenken over de toekomst van onze agenten in AI, lijkt de dualiteit van data en kennis een geweldige manier om na te denken over waar we mee te maken zullen krijgen met AI-agenten en hoe we dubbele agenten kunnen vermijden die de controle en het vertrouwen verstoren. Leiders moeten drie principes in overweging nemen en deze aanpassen aan de specifieke behoeften van hun organisaties.

1. Herken het nieuwe aanvalslandschap

Beveiliging is niet alleen een IT-probleem; het is een prioriteit op bestuursniveau. In tegenstelling tot traditionele software zijn AI-agenten nog dynamischer, adaptiever en in staat om autonoom te opereren. Dit brengt unieke risico’s met zich mee.

We moeten accepteren dat AI kan worden misbruikt op manieren die verder gaan dan wat we met traditionele software hebben ervaren. We gebruiken AI-agenten om goedbedoelde taken uit te voeren, maar degenen met brede rechten kunnen door slechte actoren worden gemanipuleerd om hun toegang te misbruiken, zoals het lekken van gevoelige gegevens via geautomatiseerde acties. We noemen het het ‘verwarde ondeugd’-probleem. AI-agenten ‘denken’ in termen van natuurlijke taal waarin instructies en gegevens nauw met elkaar verweven zijn, veel meer dan in de typische software waarmee we communiceren. De generatieve modellen waarvan agenten afhankelijk zijn, ontleden op dynamische wijze de hele soep van menselijke (of zelfs niet-menselijke) talen, waardoor het moeilijk wordt om bekende veilige operaties te onderscheiden van nieuwe instructies die door kwaadwillige manipulatie zijn geïntroduceerd. Het risico neemt nog meer toe als er schaduwagenten, niet-goedgekeurde agenten of verweesde agenten in het spel komen. En zoals we hebben gezien in Bring Your Own Device (BYOD) en andere technologiegolven, versterkt alles wat niet kan worden geïnventariseerd en verantwoord, de blinde vlekken en vergroot het risico.

2. Oefen Agentic Zero Trust

AI-agenten zijn misschien nieuw als productiviteitsdrivers, maar ze kunnen nog steeds effectief worden beheerd met behulp van gevestigde beveiligingsprincipes. Ik heb hier bij Microsoft geweldige gesprekken gehad over dit onderwerp met leiders als Mustafa Suleyman, medeoprichter van DeepMind en nu Executive Vice President en CEO van Microsoft AI. Mustafa deelt vaak een manier van denken hierover, die hij in zijn boek schetst De golf komt, op het gebied van insluiting en afstemming.

Inperking betekent eenvoudigweg dat we onze AI-agenten niet blindelings vertrouwen en elk aspect van wat ze doen aanzienlijk beperken. We kunnen de toegangsrechten van een agent bijvoorbeeld niet verder laten gaan dan zijn rol en doel. Het is dezelfde benadering van beveiliging die we hanteren voor werknemersaccounts, software en apparaten, wat we ‘minste privilege’ noemen. Op dezelfde manier vertrouwen we nooit impliciet wat een agent doet of hoe deze communiceert (alles moet worden gecontroleerd), en wanneer dit niet mogelijk is, mogen agenten eenvoudigweg niet in onze omgeving opereren.

Bij afstemming gaat het om het creëren van positieve controle over het beoogde doel van een AI-agent, via zijn suggesties en de modellen die hij gebruikt. We moeten alleen AI-agenten gebruiken die zijn opgeleid om corruptiepogingen te weerstaan, met normen en waarden missie specifiek Beveiligingsmaatregelen zijn ingebouwd in zowel het model zelf als in de aanwijzingen die worden gebruikt om het model aan te roepen. AI-agenten moeten zich verzetten tegen pogingen om ze af te leiden van goedgekeurd gebruik. Ze moeten opereren in een containmentomgeving die eventuele afwijkingen van het beoogde doel zorgvuldig observeert. Dit alles vereist een sterke identiteit van een AI-agent en een duidelijk verantwoordelijk eigenaarschap binnen de organisatie. Als onderdeel van AI-governance moet elke agent een identiteit hebben en moeten we weten wie in de organisatie daarvoor verantwoordelijk is uitgelijnd gedrag.

Containment (minste privileges) en afstemming zullen bekend in de oren klinken voor bedrijfsbeveiligingsteams, omdat ze aansluiten bij enkele basisprincipes van Zero Trust. Agentic Zero Trust omvat het ‘aannemen van een inbreuk’, oftewel nooit impliciet iets vertrouwen, mensen, apparaten en agenten expliciet laten verifiëren wie ze zijn voordat ze toegang krijgen, en hun toegang beperken tot alleen wat nodig is om een ​​taak uit te voeren. Hoewel Agentic Zero Trust uiteindelijk diepere beveiligingsmogelijkheden omvat, is het bespreken van containment en afstemming een goede kortere weg in AI-beveiligingsstrategiegesprekken met senior stakeholders om iedereen op de hoogte te houden van het beheersen van nieuwe risico’s. Agenten zullen zich blijven aansluiten en zich aanpassen aan de baan – sommigen kunnen dubbelagenten worden. Met de juiste controles kunnen we onszelf beschermen.

3. Bevorder een cultuur van zelfverzekerde innovatie

Technologie alleen zal de AI-beveiliging niet oplossen. Cultuur is de echte superkracht in cyberrisicobeheer, en leiders hebben het unieke vermogen om deze vorm te geven. Begin met een open dialoog: maak risico’s en verantwoord gebruik van AI onderdeel van alledaagse gesprekken. Houd het crossfunctioneel: Juridische zaken, compliance, HR en anderen moeten aan tafel zitten. Investeer in voortdurende training: Train teams in de grondbeginselen van AI-beveiliging en verduidelijk het beleid om de ruis te elimineren. Omarm ten slotte veilige experimenten: geef mensen goedgekeurde ruimtes om te leren en te innoveren zonder risico’s te creëren.

Organisaties die floreren, zullen AI als een teamgenoot beschouwen en niet als een bedreiging, en vertrouwen opbouwen door middel van communicatie, leren en voortdurende verbetering.

De weg vooruit: wat elk bedrijf zou moeten doen

Kunstmatige intelligentie is niet zomaar een hoofdstuk: het is een plotwending die alles verandert. De kansen zijn enorm, maar de risico’s ook. De opkomst van kunstmatige intelligentie vereist milieuveiligheid, die leidinggevenden creëren door van cyberbeveiliging een dagelijkse prioriteit te maken. Dit betekent het combineren van robuuste technische maatregelen met voortdurende training en duidelijk leiderschap, zodat het beveiligingsbewustzijn elke keuze die u maakt, beïnvloedt. Organisaties handhaven de milieuveiligheid wanneer:

– Maak van AI-veiligheid een strategische prioriteit.
– Dring aan op beheersing en afstemming voor elke agent.
– Identiteitsmandaat, data-eigendom en governance.
– Bouw een cultuur die veilige innovatie ondersteunt.

En het zal belangrijk zijn om een reeks praktische stappen te ondernemen:

– Wijs elke AI-agent een ID en eigenaar toe, net zoals werknemers badges nodig hebben. Dit garandeert traceerbaarheid en controle.
– Documenteer de intentie en reikwijdte van elke agent.
– Monitor acties, inputs en outputs. Breng gegevensstromen tijdig in kaart om nalevingsstatistieken vast te stellen.
– Houd agenten in veilige, gesanctioneerde omgevingen, zonder malafide ‘agentfabrieken’.

De oproep tot actie voor elk bedrijf is: Bekijk nu uw AI-governanceframework. Eis duidelijkheid, verantwoordelijkheid en voortdurende verbetering. De toekomst van cybersecurity is mens plus machine: geef doelgericht leiding en maak van AI uw sterkste bondgenoot.

Bij Microsoft weten we dat we een grote rol te spelen hebben bij het versterken van onze klanten in dit nieuwe tijdperk. In mei hebben we Microsoft Entra Agent ID geïntroduceerd als een manier om klanten te helpen unieke identiteiten toe te wijzen aan agenten zoals deze worden gemaakt in Microsoft Copilot Studio en Azure AI Foundry. We maken gebruik van AI in Defender en Security Copilot, samen met de enorme beveiligingssignalen die we verzamelen, om phishing-campagnes en andere aanvallen die cybercriminelen zouden kunnen gebruiken als toegangspoort om AI-agenten in gevaar te brengen, bloot te leggen en te verslaan. We hebben ons ook gecommitteerd aan een platformgerichte aanpak met AI-agents, om klanten te helpen tijdens hun hele traject veilig gebruik te maken van zowel Microsoft-agenten als externe agenten, waarbij de complexiteit en het risico van het moeten jongleren met overmatige dashboards en beheerconsoles worden vermeden.

Ik ben enthousiast over nog veel meer innovaties die we later deze maand zullen delen bij Microsoft Ignite, samen met klanten en partners.

We zijn misschien nog niet in gesprek met Data op de brug van de USS Enterprise, maar als technoloog is het nog nooit zo spannend geweest als het aanschouwen van deze fase van het traject van kunstmatige intelligentie op onze werkplekken en in ons leven. Als leider helpt het begrijpen van de belangrijkste kansen en risico’s een veiligere wereld te creëren voor mensen en agenten die samenwerken.

BRON