Paul Arends
De Senaat heeft unaniem ingestemd met de Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act, aldus senator Dick Durbin (D-IL), mede-indiener van het wetsvoorstel. Deze wet maakt het mogelijk voor personen die zich schuldig maken aan niet-consensuele, seksueel expliciete deepfakes om civiele actie te ondernemen tegen degenen die ze creëren en hosten.
Deepfakes vormen een bekend probleem online, maar zonder de juiste bescherming heeft de gemakkelijke toegang tot door AI aangedreven tools voor het genereren van afbeeldingen en video’s het voor iedereen mogelijk gemaakt om compromitterende inhoud te creëren met de gelijkenis van iemand anders. Dit is vooral een probleem geworden op X, waar de integratie van Grok, de AI-assistent gecreëerd door het moederbedrijf xAI, iedereen in staat stelt om de inhoud van andermans berichten om te zetten in beeldgenererende prompts. Gebruikers hebben hierdoor de afgelopen maand seksueel expliciete afbeeldingen van kinderen kunnen maken door simpelweg te reageren op een bericht met @grok en een verzoek.
Naar aanleiding hiervan heeft Ofcom, de Britse mediaregulator, al een onderzoek geopend naar X wegens mogelijke schending van de Online Safety Act. Ook in Maleisië en Indonesië is de chatbot volledig geblokkeerd. De DEFIANCE Act zou Grok en andere AI-tools niet verhinderen om deepfakes zonder wederzijds goedvinden te genereren, maar het zou het maken of hosten van dergelijke inhoud potentieel zeer kostbaar maken voor iedereen die aan de ontvangende kant van een rechtszaak staat.
In 2024 keurde de Senaat een eerdere versie van de DEFIANCE Act goed, maar deze bleef hangen in de Tweede Kamer. Gezien de urgentie van het Grok-deepfake-probleem is de hoop dat deze nieuwe versie van het wetsontwerp niet op dezelfde weerstand zal stuiten. Het Congres heeft vorig jaar de Take It Down Act aangenomen, een wet die gericht was op bedrijven die niet-consensuele en seksueel expliciete inhoud hosten, in plaats van op de mensen die ze uitbuiten.
BRON
