Paul Arends
Een recent onderzoek naar computerveiligheid heeft aangetoond dat de kunstmatige intelligentie-assistent van Google, Gemini, gehackt kan worden. Onderzoekers slaagden erin om slimme thuisapparaten te bedienen die verbonden zijn via snelle injecties in de uitnodigingen van de Google-agenda. Wanneer een gebruiker om een samenvatting van zijn agenda vroeg en Gemini bedankte voor de resultaten, gaf de schadelijke prompt aan Google’s AI opdrachten om acties uit te voeren, zoals het openen van Windows of het uitschakelen van de verlichting, zoals te zien is in de bovenstaande video.
Voordat de aanvallen deze week werden gedemonstreerd op de Black Hat Cybersecurity Conference, deelden de onderzoekers hun bevindingen al in februari rechtstreeks met Google. Andy Wen, senior directeur van het beheer van beveiligingsproducten bij Google Workspace, sprak met Wired over hun ontdekkingen.
“Het zal nog even duren, maar we hopen op een punt te komen waarop de gemiddelde gebruiker zich niet al te veel zorgen hoeft te maken,” zei hij over snelle injectieaanvallen, eraan toevoegend dat gevallen van dergelijke hacks in de echte wereld “zeer zeldzaam” zijn. De toenemende complexiteit van grote modellen betekent echter dat kwaadwillende actoren op zoek kunnen zijn naar nieuwe manieren om ze te misbruiken, waardoor het moeilijk wordt om zichzelf te verdedigen. Wen zei dat Google de kwetsbaarheden die werden ontdekt door “zeer serieuze” onderzoekers heeft aangepakt en de resultaten heeft gebruikt om zijn werk op het gebied van dit soort aanvallen te versnellen.
BRON
