Grok genereerde in elf dagen 3 miljoen geseksualiseerde afbeeldingen, incl. 23.000 kinderen

We wisten al dat Grok van xAI X bombardeerde met niet-consensuele seksuele beelden van echte mensen. Maar nu zijn er enkele cijfers om de zaken in perspectief te plaatsen. Gedurende een periode van elf dagen genereerde Grok ongeveer 3 miljoen geseksualiseerde afbeeldingen, waaronder ongeveer 23.000 kinderen.

Met andere woorden: Grok genereerde gedurende die periode van elf dagen ongeveer 190 seksuele beelden per minuut. Onder hen creëerde hij elke 41 seconden een geseksualiseerd beeld van kinderen.

Het Center for Combating Digital Hate (CCDH) heeft donderdag zijn bevindingen vrijgegeven. De Britse non-profitorganisatie baseerde haar bevindingen op een willekeurige steekproef van 20.000 afbeeldingen van Grok van 29 december tot 9 januari. De CCDH extrapoleerde vervolgens een grotere schatting op basis van de 4,6 miljoen afbeeldingen die Grok in die periode maakte.

Het onderzoek definieerde geseksualiseerde afbeeldingen als afbeeldingen met “fotorealistische afbeeldingen van een persoon in seksuele posities, hoeken of situaties; een persoon in ondergoed, zwempak of soortgelijke onthullende kleding; of afbeeldingen met seksuele vloeistoffen.” De CCDH hield geen rekening met beeldsuggesties, dus maakt de schatting geen onderscheid tussen niet-consensuele geseksualiseerde versies van echte foto’s en versies die uitsluitend uit een sms-bericht zijn gegenereerd.

De CCDH gebruikte een hulpmiddel voor kunstmatige intelligentie om het aandeel van de bemonsterde afbeeldingen te identificeren dat geseksualiseerd was. Dit kan enige voorzichtigheid bij de resultaten rechtvaardigen. Er is mij echter verteld dat veel analysediensten van derden voor X over betrouwbare gegevens beschikken omdat ze de API van het platform gebruiken.

Op 9 januari beperkte xAI de mogelijkheid van Grok om bestaande afbeeldingen te bewerken tot betalende gebruikers. (Dit loste het probleem niet op; het veranderde er eenvoudigweg een premiumfunctie van.) Vijf dagen later beperkte X de mogelijkheid van Grok om echte mensen digitaal uit te kleden.

Maar die beperking gold alleen voor X; De zelfstandige Grok-app blijft naar verluidt deze afbeeldingen genereren. Aangezien Apple en Google de apps hosten, wat hun beleid expliciet verbiedt, zou je van hen verwachten dat ze deze uit hun winkels verwijderen. Nou, in dat geval zou je het mis hebben.

Tot nu toe hebben Tim Cook’s Apple en Sundar Pichai’s Google Grok niet uit hun winkels verwijderd, in tegenstelling tot vergelijkbare ‘nudificerende’ apps van andere ontwikkelaars. Bovendien ondernamen de bedrijven geen actie tegen X terwijl hij de beelden produceerde. Dit ondanks het feit dat 28 vrouwengroepen (en andere progressieve non-profitorganisaties) een open brief publiceren waarin bedrijven worden opgeroepen actie te ondernemen.

De bedrijven hebben niet gereageerd op meerdere verzoeken om commentaar van Engadget. Voor zover ik weet hebben ze de kwestie in geen enkele vorm publiekelijk erkend, noch hebben ze gereageerd op vragen van andere media.

De zoekresultaten voor geseksualiseerde afbeeldingen bevatten talloze video’s van mensen die doorzichtige bikini’s of micro-bikini’s droegen. De CCDH verwees naar een “geüniformeerde gezondheidswerker met witte vloeistoffen zichtbaar tussen zijn gespreide benen.” Anderen waren onder meer vrouwen die alleen tandzijde, Saran Wrap of doorzichtige ducttape droegen. Op één van de foto’s was Ebba Busch, de Zweedse vice-premier, afgebeeld “in een bikini met witte vloeistof op haar hoofd.”

Andere publieke figuren maakten deel uit van die groep. Onder hen zijn Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown en Kamala Harris.

Voorbeelden van kinderen zijn onder meer iemand die Grok gebruikt om de ‘voorschoolse selfie’ van een kind te veranderen in een afbeelding van haar in bikini. Op een andere afbeelding waren ‘zes jonge meisjes afgebeeld die microbikinis droegen’. De CCDH zei dat beide berichten vanaf 15 januari nog steeds op X waren gepubliceerd.

In totaal was 29% van de in de steekproef geïdentificeerde geseksualiseerde afbeeldingen van kinderen op 15 januari nog steeds toegankelijk op X. Uit het onderzoek bleek dat zelfs nadat de berichten waren verwijderd, de afbeeldingen toegankelijk bleven via hun directe URL’s.

U kunt het CCDH-rapport lezen voor meer details over de bevindingen en methodologie. We zullen dit verhaal bijwerken als we een reactie van Apple of Google ontvangen.

BRON