Paul Arends
Anthropic onderzoekt mogelijke ‘ongeoorloofde toegang’ tot zijn Claude Mythos-model, dat wordt geprezen vanwege zijn vermogen om cyberbeveiligingsfouten op te sporen, aldus het bedrijf. Volgens het rapport heeft een groep toegang gekregen tot het model via een extern aannemersportaal en met behulp van internetonderzoekstools. Een bron die bekend is met de situatie, meldt echter dat de groep alleen geïnteresseerd is in het testen van de modellen en niet van plan is om ze kwaadwillig te gebruiken.
Anthropic verklaarde: “We onderzoeken een rapport waarin wordt beweerd dat er sprake is van ongeoorloofde toegang tot Claude Mythos Previous via een van onze externe leveranciersomgevingen.”
De preview van Claude Mythos werd eerder deze maand gelanceerd als onderdeel van “Project Glasswing” en trok veel aandacht. Anthropic heeft de preview-release beperkt tot een select aantal vertrouwde testbedrijven, waaronder Amazon, Microsoft, Apple en Cisco. Een van die bedrijven was Mozilla, die aangaf dat het model hielp bij het identificeren en oplossen van 271 kwetsbaarheden in Firefox. Steeds meer banken en overheidsinstanties hebben ook interesse getoond om hun systemen te beveiligen.
Verschillende ongeautoriseerde gebruikers (die naar verluidt een privéchat hebben op Discord) hebben echter toegang gekregen tot Mythos via een ontwikkelaarsportaal en door slim te raden waar het model zich zou kunnen bevinden. Volgens het rapport heeft deze groep mogelijk ook toegang tot andere niet-gepubliceerde antropogene modellen.
Het nieuwe Mythos-model heeft de aandacht getrokken vanwege zijn vermeende vermogen om beveiligingsfouten in besturingssystemen en internetbrowsers op te sporen. Dit heeft geleid tot enige scepsis onder beveiligingsonderzoekers, maar ook tot zorgen dat door AI gegenereerde cyberaanvallen een ‘reële bedreiging’ kunnen vormen, aldus Alex Zenla, CTO van cloudbeveiligingsbedrijf Edera. Anthropic werd onlangs door het Amerikaanse ministerie van Defensie bestempeld als een ’toeleveringsketenrisico’, maar is momenteel in gesprek met de regering-Trump om dat label te laten verwijderen.
BRON
