Paul Arends
Hier bevinden we ons in het ‘gouden’ tijdperk van kunstmatige intelligentie. Een hacker heeft de Claude-chatbot van Anthropic misbruikt om aanvallen uit te voeren op Mexicaanse overheidsinstanties. Dit heeft geleid tot de diefstal van 150 GB aan officiële overheidsgegevens, waaronder gegevens van belastingbetalers, inloggegevens van werknemers en meer.
De hacker gebruikte Claude om kwetsbaarheden in overheidsnetwerken te ontdekken en scripts te schrijven om deze uit te buiten. De chatbot kreeg ook de opdracht om manieren te vinden om gegevensdiefstal te automatiseren, zoals beschreven door cyberbeveiligingsbedrijf Gambit Security. Dit begon in december en duurde ongeveer een maand.
Het lijkt erop dat de hacker Claude in feite kon ‘jailbreaken’ met tips en uiteindelijk de beperkingen van de chatbot kon omzeilen. Claude weigerde aanvankelijk de kwaadaardige eisen, totdat hij uiteindelijk toegaf.
“In totaal heeft het duizenden gedetailleerde rapporten geproduceerd met kant-en-klare plannen, waarin de menselijke operator precies werd verteld welke interne doelen hij vervolgens moest aanvallen en welke inloggegevens hij moest gebruiken”, zegt Curtis Simpson, Chief Strategy Officer van Gambit Security.
Anthropic heeft de beschuldigingen onderzocht, de activiteit stopgezet en alle betrokken accounts geblokkeerd, aldus een vertegenwoordiger van het bedrijf. De woordvoerder zei ook dat het nieuwste model, Claude Opus 4.6, tools bevat om dit soort misbruik te stoppen.
Deze hacker zou ook ChatGPT hebben gebruikt als aanvulling op de aanvallen, waarbij hij de chatbot van OpenAI gebruikte om informatie te verzamelen over hoe hij zich door computernetwerken kon verplaatsen, welke inloggegevens nodig waren om toegang te krijgen tot systemen en hoe detectie kon worden voorkomen. OpenAI zegt dat het de pogingen van de hacker heeft geïdentificeerd om het beleid te schenden en dat de tools hebben geweigerd hieraan te voldoen.
De identiteit van de hacker blijft onbekend. De aanvallen worden niet toegeschreven aan een specifieke groep, maar Gambit Security heeft gesuggereerd dat ze mogelijk verband houden met een buitenlandse regering. Ook is het onduidelijk wat de hacker van plan is met al die gegevens.
Het nationale digitale agentschap van Mexico heeft geen commentaar gegeven op de inbraak, maar benadrukt dat cyberbeveiliging een prioriteit is. De deelstaatregering van Jalisco ontkent dat er sprake is van een inbraak en zegt dat alleen federale netwerken zijn getroffen. Het Mexicaanse nationale verkiezingsinstituut heeft echter de afgelopen maanden elke inbraak of ongeoorloofde toegang ontkend. Tijdens hun onderzoek heeft Gambit echter minstens twintig beveiligingskwetsbaarheden gevonden die het land waarschijnlijk niet wil belichten.
Dit is niet de eerste keer dat Claude is gebruikt bij een grote cyberaanval. Vorig jaar hebben Chinese hackers de tool gemanipuleerd voor een poging, waarvan vele succesvol waren. Anthropic beloofde nooit een AI-systeem te trainen tenzij het kon garanderen dat de veiligheidsmaatregelen adequaat waren. Dus wie weet welke nieuwe uitdagingen de toekomst zal brengen als de tools van het bedrijf geavanceerder worden.
BRON
