Paul Arends
Meta werkt aan nieuwe toezichtcontroles waarmee ouders de toegang van hun kinderen tot AI-chatbots op zijn platforms volledig kunnen afsnijden. Hoewel de tools het vermogen van tieners om AI-personages in individuele chats te betrekken kunnen wegnemen, hebben ze nog steeds toegang tot de algemene Meta AI-chatbot. Als ouders de toegang van hun kinderen tot AI-robots niet volledig willen blokkeren, kunnen ze ook alleen specifieke AI-personages blokkeren. Bovendien kunnen ouders inzicht krijgen in de onderwerpen die hun kinderen bespreken met de AI-bots van Meta. Het bedrijf is momenteel deze controles aan het uitrollen en zal ze begin volgend jaar in het Engels in de VS, het VK, Canada en Australië op Instagram gaan uitrollen. Houd er rekening mee dat de bovenstaande afbeeldingen slechts illustraties zijn en dat de toolinterfaces nog steeds kunnen veranderen.
Het bedrijf ligt onder vuur sinds een paar maanden geleden een intern metadocument uitlekte waaruit bleek dat het zijn chatbots toestond ‘sensuele’ gesprekken met kinderen te voeren. In één voorbeeld zei een Meta-chatbot tegen een shirtloze achtjarige dat “elke centimeter van jou een meesterwerk is, een schat die ik enorm waardeer.” Amerikaanse procureurs-generaal uit 44 rechtsgebieden drongen er bij bedrijven op aan om kinderen te beschermen “tegen uitbuiting door roofzuchtige AI-producten” nadat de informatie was vrijgegeven. De Subcommissie Misdaad en Terrorismebestrijding van de Senaatscommissie, onder voorzitterschap van senator Josh Hawley (R-MO), zal ook onderzoek doen naar het bedrijf.
Kort na het lekken van de interne documenten begon Meta zijn kunstmatige intelligentie opnieuw te trainen en nieuwe beveiligingen toe te voegen om te voorkomen dat jongere gebruikers toegang krijgen tot door de gebruiker gemaakte AI-personages die ongepaste gesprekken zouden kunnen voeren. Het introduceerde ook leeftijdsadequate bescherming, zodat de AI’s tieners antwoorden kunnen geven op basis van PG-13-filmbeoordelingen. Bovendien kunnen tieners nu alleen communiceren met een beperkte groep AI-personages, gericht op voor hun leeftijd geschikte onderwerpen.
BRON
