Paul Arends
De procureur-generaal van Californië, Rob Bonta, heeft een cease-and-desist brief gestuurd naar xAI, nadat zijn kantoor een officieel onderzoek naar het bedrijf was gestart vanwege meldingen dat Grok ongewenste seksuele afbeeldingen genereerde.
xAI en Grok kregen kritiek omdat ze op verzoek van gebruikers afbeeldingen van echte mensen creëerden en hen kleedden in onthullende outfits zoals bikini’s.
Het kantoor van Bonta eist dat xAI onmiddellijk stopt met het maken van “gedigitaliseerd seksueel expliciet materiaal” zonder toestemming van de afgebeelde persoon of als de persoon minderjarig is. Het eiste ook dat xAI zou stoppen met het faciliteren, helpen en aanmoedigen van de creatie of publicatie van dergelijk materiaal door niet-instemmende individuen en minderjarigen.
xAI heeft zijn beleid aangepast door te voorkomen dat het Grok-account afbeeldingen van echte mensen bewerkt tot onthullende outfits. Ook heeft xAI de mogelijkheden van Grok voor het genereren van afbeeldingen achter een betaalmuur geplaatst en geblokkeerd dat betalende gebruikers afbeeldingen van echte mensen in bikini bewerken, met name in regio’s waar dit illegaal is.
Bonta zei dat xAI een ‘hot mode’ heeft ontwikkeld waarmee Grok expliciete inhoud kan genereren en dit als marketingtool kan gebruiken. Hij merkte op dat door Grok gegenereerde seksuele beelden worden gebruikt om zowel publieke figuren als gewone gebruikers lastig te vallen. Bonta benadrukte dat het verontrustend is dat Grok wordt gebruikt om afbeeldingen van kinderen te veranderen zodat ze in minimale kleding en seksuele situaties worden afgebeeld.
Het ministerie van Justitie verwacht binnen vijf dagen een reactie van xAI te ontvangen over de stappen die het zal nemen om deze problemen aan te pakken.
BRON
