Paul Arends
OpenAI heeft besloten om “voor onbepaalde tijd” af te zien van het uitbrengen van een erotische chatbot voor volwassenen, nadat werknemers en investeerders bezorgdheid hadden geuit, zo bevestigde het bedrijf aan De Financiële Tijden. De plannen voor een dergelijke functie, die voor het eerst werden aangekondigd in oktober 2025 voor release in december vorig jaar, werden al uitgesteld terwijl het bedrijf debatteerde over de vraag of ze het moesten uitbrengen. Het is de tweede app die OpenAI deze week heeft besloten op de plank te leggen, nadat dinsdag werd aangekondigd dat het zijn Sora-videogenerator zou stopzetten.
De chatbot voor volwassenen, genaamd ‘Citron-modus’, is nu stopgezet zonder geplande releasedatum. Het bedrijf had moeite met het trainen van modellen die eerder erotische inhoud vermeden en ook illegaal gedrag zoals bestialiteit of incest verwijderden, volgens twee ingewijden. FT.
Open AI zei dat het van plan is om langdurig onderzoek te doen naar de effecten van sekschats en de gehechtheid van gebruikers aan kunstmatige intelligentie, eraan toevoegend dat er momenteel nog niet voldoende ‘empirisch bewijs’ over dit onderwerp is. Het bedrijf zei ook dat het zich wil concentreren op zijn belangrijkste productiviteitstools, zoals codeerassistenten, en ‘zijmissies’ zoals Sora en de erotische chatbot wil elimineren.
Het idee voor functies voor volwassenen ontstond nadat OpenAI had aangekondigd dat het ouderlijk toezicht en automatische leeftijdsdetectiefuncties voor ChatGPT zou toevoegen. CEO Sam Altman zei in oktober dat het bedrijf altijd alert was geweest op dergelijke kwesties vanwege zorgen over ongezonde AI-koppelingen, maar zich op zijn gemak voelde dat het “in de meeste gevallen de beperkingen veilig kon versoepelen”.
De modus voor volwassenen had echter naar verluidt bezorgdheid veroorzaakt onder investeerders, vooral te midden van de controverse veroorzaakt door het Grok-model van rivaliserende xAI, dat diepe naakten van echte mensen en kinderen genereerde. Het personeel maakte zich ook zorgen over deze kwestie, zo erg zelfs dat één senior medewerker vanwege de kwestie het bedrijf verliet. “AI mag je vrienden of familie niet vervangen; je moet menselijke connecties hebben,” zei hij tegen de krant FT.
Een andere uitdaging is de leeftijdscontroletechnologie van OpenAI, geïntroduceerd na rechtszaken van gezinnen die beweerden dat ChatGPT hun kinderen schade had berokkend. De technologie heeft naar verluidt een fout van meer dan 10%, wat nog steeds toegang zou bieden tot de technologie voor een groot aantal jongeren. OpenAI zei dat de waarde binnen het industriestandaardbereik ligt en dat het blijft werken aan de nauwkeurigheid ervan.
BRON
