Paul Arends
Maleisië en Indonesië hebben als eerste landen besloten om Grok te blokkeren, omdat de X-chatbot niet voldoende waarborgen heeft om te voorkomen dat expliciete AI-gegenereerde deepfakes van vrouwen en kinderen worden gemaakt en verspreid op X. Indonesië heeft de toegang tot Grok tijdelijk geblokkeerd op zaterdag, terwijl Maleisië dat op zondag heeft gedaan, aldus de Bijbehorende pers. Tegelijkertijd heeft de Britse mediaregulator Ofcom een formeel onderzoek geopend naar X op basis van de Online Safety Act.
De Indonesische minister van Communicatie en Digitale Zaken, Meutya Hafid, heeft verklaard dat seksuele deepfakes zonder wederzijds goedvinden ernstige schendingen zijn van de mensenrechten, waardigheid en veiligheid van burgers in de digitale ruimte. Ambtenaren in Indonesië hebben vastgesteld dat Grok onvoldoende controles heeft om te voorkomen dat gebruikers seksueel expliciete deepfakes creëren en delen op basis van foto’s van Indonesische inwoners. De directeur-generaal van het toezicht op de digitale ruimte in het land, Alexander Sabar, heeft benadrukt dat het genereren van deepfakes de imago- en privacyrechten van individuen kan schenden en reputatieschade, sociale en psychologische schade kan veroorzaken.
De Maleisische Communicatie- en Multimediacommissie heeft het “herhaalde misbruik” van Grok veroordeeld om expliciete, niet-consensuele deepfakes te genereren, met name met betrekking tot vrouwen en kinderen. Grok zal in Maleisië geblokkeerd blijven totdat X Corp en moederbedrijf xAI voldoende sterke waarborgen hebben ingesteld.
Het onderzoek van Ofcom zal zich richten op de vraag of X heeft voldaan aan zijn verplichtingen om mensen in Groot-Brittannië te beschermen tegen inhoud die illegaal is in Groot-Brittannië. Dit omvat onder meer de snelheid waarmee illegale inhoud wordt verwijderd nadat deze is ontdekt, en of X een gedegen risicobeoordeling heeft uitgevoerd voordat significante wijzigingen op het platform werden aangebracht. Ofcom zal ook beoordelen of X de risico’s heeft beoordeeld die het platform met zich meebrengt voor Britse kinderen en of er voldoende leeftijdsbeperkingen zijn om kinderen te beschermen tegen schadelijke inhoud.
Als Ofcom concludeert dat een bedrijf de wet heeft overtreden, kan het specifieke maatregelen eisen en boetes opleggen. De Britse regering heeft aangegeven dat zij elke actie van Ofcom tegen X zal ondersteunen.
Naast Maleisië en Indonesië zijn ook andere landen, waaronder India en de Europese Unie, bezorgd over de deepfakes die door Grok worden gegenereerd. Grok heeft onlangs beperkingen ingesteld voor niet-betalende gebruikers, maar het blijft mogelijk om afbeeldingen te genereren via de Grok-functie op de X-website en -app.
BRON
