Paul Arends
Nu kunnen we cybercriminaliteit toevoegen aan de lijst van groeiende zorgen in verband met kunstmatige intelligentie. Het Threat Intelligence Group (GTIG) van Google zei dat het voor de eerste keer ooit een bedreigingsacteur heeft ontdekt die gebruik maakt van een zero-day exploit waarvan hij denkt dat deze is ontwikkeld door kunstmatige intelligentie.
Google zei in het rapport dat de bedreigingsacteur van plan was het te gebruiken bij een ‘massale uitbuitingsgebeurtenis’, maar dat de proactieve ontdekking ervan ‘het gebruik ervan mogelijk heeft verhinderd’. Google voegde eraan toe dat het niet gelooft dat zijn eigen Gemini-modellen zijn gebruikt, maar nog steeds “grote zekerheid” heeft dat een AI-model deel uitmaakte van het ontdekken van de kwetsbaarheid en het gebruiken van een exploit.
Het GTIG-rapport identificeerde het doelwit niet, maar zei dat Google het naamloze bedrijf op de hoogte bracht, dat vervolgens het probleem oploste. Google heeft de slechte actoren ook niet onthuld, maar liet doorschemeren dat degenen die banden hebben met China en Noord-Korea “aanzienlijke interesse” hebben getoond in het gebruik van kunstmatige intelligentie om beveiligingskwetsbaarheden te exploiteren.
Als je bedenkt hoe snel AI-modellen zich hebben ontwikkeld voor dagelijks gebruik, is het niet verrassend dat ze met kwade bedoelingen worden gebruikt. In een interview met De New York TimesJohn Hultquist, hoofdanalist bij GTIG, noemde het “een voorproefje van wat komen gaat” en “het topje van de ijsberg”, eraan toevoegend dat deze zaak slechts het eerste “harde bewijs” was van dit soort aanvallen. Google zegt in zijn rapport dat dreigingsactoren AI in verschillende stadia van een cyberaanval hebben gebruikt, maar dat “AI ook een krachtig hulpmiddel kan zijn voor verdedigers.” Net als Google gebruiken andere bedrijven AI-modellen om preventieve maatregelen mogelijk te maken. Vorige maand kondigde Anthropic Project Glasswing aan, een initiatief dat tot taak heeft Claude Mythos Preview te gebruiken om ‘zware kwetsbaarheden’ te vinden en zich hiertegen te verdedigen.
