Paul Arends
Meta staat niet langer toe dat tieners in hun huidige vorm met hun AI-chatbotpersonages chatten. Het bedrijf kondigde vrijdag aan dat het “de toegang van tieners tot bestaande AI-personages wereldwijd tijdelijk zal opschorten.”
De pauze komt maanden nadat Meta chatbotgericht ouderlijk toezicht heeft toegevoegd na berichten dat sommige van Meta’s karakterchatbots seksuele gesprekken en andere verontrustende interacties met tieners voerden. Reuters rapporteerde een intern Meta-beleidsdocument waarin stond dat chatbots ‘sensuele’ gesprekken mochten voeren met minderjarige gebruikers, taal die Meta later ‘onjuist en inconsistent met ons beleid’ noemde. Het bedrijf kondigde in augustus aan dat het zijn chatbots aan het herontwikkelen was om “vangrails als extra voorzorgsmaatregel” toe te voegen die zouden voorkomen dat tieners over zelfbeschadiging, ongeordend eten en zelfmoord zouden praten.
Nu zegt Meta dat het tieners de toegang tot de chatbots van hun personages zal blokkeren, ongeacht de instellingen voor ouderlijk toezicht, totdat “de bijgewerkte ervaring klaar is”. De verandering, die ‘in de komende weken’ zal beginnen, zal van toepassing zijn op mensen met tieneraccounts, ‘en ook op mensen die beweren volwassenen te zijn, maar van wie we vermoeden dat het tieners zijn op basis van onze leeftijdsvoorspellingstechnologie.’ Tieners zullen nog steeds toegang hebben tot de officiële Meta AI-chatbot, die volgens het bedrijf al ‘leeftijdsadequate bescherming’ biedt.
Meta en andere AI-bedrijven die ‘huisdier’-personages creëren, krijgen steeds meer aandacht voor de veiligheidsrisico’s die deze chatbots voor jongeren kunnen opleveren. De afgelopen maanden zijn zowel de FTC als de procureur-generaal van Texas onderzoeken gestart naar Meta en andere bedrijven. De chatbotkwestie kwam ook ter sprake in de context van een veiligheidsrechtszaak aangespannen door de procureur-generaal van New Mexico. Het proces zal naar verwachting begin volgende maand beginnen; Meta’s advocaten probeerden getuigenissen met betrekking tot de AI-chatbots van het bedrijf uit te sluiten. Bedraad deze week gemeld.
