Paul Arends
De informatie meldde dat vorige week een AI-agent binnen Meta een ongeoorloofde actie ondernam die resulteerde in een inbreuk op de beveiliging bij het sociale bedrijf. Volgens de publicatie gebruikte één medewerker interne kunstmatige intelligentie om een vraag van een tweede medewerker op een intern forum te analyseren. De AI-agent stuurde een reactie naar de tweede medewerker met advies, ook al had de eerste persoon hem daartoe geen opdracht gegeven.
De tweede medewerker volgde het advies van de agent op, wat leidde tot een kettingreactie waarbij sommige technici toegang kregen tot metasystemen die ze niet hadden mogen zien. Een vertegenwoordiger van het bedrijf bevestigde het incident aan De informatie en verklaarde dat “er geen gebruikersgegevens verkeerd werden gebruikt.” Uit het interne rapport van Meta bleek dat er nog meer niet-gespecificeerde problemen waren die hebben bijgedragen aan de inbreuk. Eén bron zei dat er geen bewijs was dat iemand misbruik had gemaakt van de plotselinge toegang of dat de gegevens openbaar waren gemaakt gedurende de twee uur dat de inbreuk op de beveiliging actief was. Dit kan echter meer dan wat dan ook het gevolg zijn van toeval.
Veel technologieleiders en bedrijven hebben de voordelen van AI geprezen. Dit is slechts het laatste incident waarbij menselijke werknemers de controle over een AI-agent hebben verloren. Amazon Web Services had eerder dit jaar last van een 13 uur durende storing die ook gevolgen had voor de Agentic AI-coderingstool Kiro. Moltbook, het sociale netwerk voor AI-agenten dat onlangs door Meta is overgenomen, had een beveiligingsfout waardoor gebruikersinformatie openbaar werd gemaakt dankzij een toezicht op het door Vibe gecodeerde platform.
BRON
