Paul Arends
Eerder dit jaar werd onthuld dat Apple en Google ‘nudificatie’-apps in hun winkels aanbieden, ondanks dat ze een duidelijk beleid hebben dat dergelijke inhoud verbiedt. Bijna drie maanden later zijn dergelijke apps niet alleen nog steeds beschikbaar, maar worden ze ook actief gepromoot in de iOS App Store en Google Play, aldus een nieuw rapport van het Technologisch Transparantieproject (TTP). Veel van deze apps kregen het label “E”, wat betekent dat ze door kinderen gedownload kunnen worden.
Zoeken naar termen als ‘naakt maken’, ‘uitkleden’ en andere in deze winkels geeft gebruikers toegang tot apps waarmee echte mensen naakt kunnen worden gemaakt of in pornografische video’s kunnen worden ingevoegd. Het nieuwe rapport beweert dat de platforms een rol spelen in de verspreiding van kunstmatige intelligentie-instrumenten die echte mensen kunnen transformeren in geseksualiseerde beelden, aldus TTP. Zelfs app-winkels plaatsten advertenties voor vergelijkbare nudisme-apps in de zoekresultaten.
De groep heeft 18 naakt-apps geïdentificeerd in de Apple App Store en 20 in Google Play. Sommige van deze apps werden gepromoot met seksuele beelden, terwijl andere wellicht niet als zodanig werden geadverteerd, maar nog steeds gebruikt konden worden voor deepfakes. De apps hebben gezamenlijk ongeveer $122 miljoen aan inkomsten gegenereerd en werden 483 miljoen keer gedownload.
“Bedrijven falen niet alleen in het adequaat beoordelen van deze apps en blijven ze goedkeuren en ervan profiteren”, aldus Katie Paul, directeur van TTP, aan Bloomberg. “Ze leiden gebruikers eigenlijk naar deze apps toe.”
Zowel Apple als Google hebben beleid dat seksueel of pornografisch materiaal verbiedt, en Google heeft specifiek beleid tegen naaktheidsapps. Apple heeft verklaard 15 van de geïdentificeerde apps verwijderd te hebben, terwijl Google enkele heeft opgeschort. Een van de genoemde apps in het rapport is AI Video Face Swap: DeepFace, die gebruikers in staat stelt om gezichten te verwisselen en te plaatsen op lichamen van gedeeltelijk ontklede vrouwen. Deze app kreeg het label “E”.
De toename van naaktheid- en deepfake-apps heeft ertoe geleid dat sommige regeringen wetgeving voorstellen om ze te verbieden. De Britse kindercommissaris heeft onlangs opgeroepen tot een verbod op AI-deepfake-apps die naakte of seksueel expliciete afbeeldingen van kinderen maken. Verschillende landen hebben wetten voorgesteld of aangenomen die expliciete deepfakes verbieden, en de procureur-generaal van Californië heeft onlangs Elon Musk’s X een last onder dwangsom gestuurd met betrekking tot expliciete deepfakes van Grok.
