Paul Arends
Roblox heeft onlangs een AI-gestuurde functie geïntroduceerd die ongepast taalgebruik in real-time kan herformuleren. De online game maakt al geruime tijd gebruik van AI-filters om elke vorm van taal die in strijd is met het beleid te blokkeren. Voorheen werden gecensureerde chats vervangen door een reeks hash-tekens (####), maar Roblox heeft erkend dat dit verwarrend en lastig kan zijn voor gebruikers om gesprekken te volgen. Met de nieuwe functie worden woorden en zinnen nu vervangen door wat de AI als gepaster beschouwt.
Rajiv Bhatia, Chief Safety Officer van Roblox, legt uit dat het systeem begint met het filteren van scheldwoorden. Als een gebruiker bijvoorbeeld ‘Schiet op’ typt in de chat, zal de AI dit automatisch veranderen in ‘Schiet op!’ Alle gebruikers in de chat ontvangen een melding wanneer een bericht wordt herformuleerd en de afzender kan zien in welke taal het bericht is aangepast. Gebruikers die blijven vloeken in de chat zullen nog steeds worden gestraft voor het overtreden van de regels van Roblox, zelfs als de AI hun berichten herformuleert.
De herformulering is geïmplementeerd in chats tussen gebruikers van vergelijkbare leeftijdsgroepen en in alle talen die worden ondersteund door de vertaaltool van het spel. In januari heeft Roblox een verplicht leeftijdsverificatiesysteem ingevoerd om het probleem van volwassen spelers die kinderen lokken aan te pakken. Kinderen onder de 13 jaar kunnen nu geen in-game chat meer gebruiken, behalve in specifieke ervaringen, terwijl alle andere spelers kunnen chatten met anderen van hun leeftijd.
Hoewel Roblox maatregelen heeft genomen om de veiligheid van kinderen te waarborgen, zijn er nog steeds zorgen over de blootstelling van kinderen aan online roofdieren. Verschillende aanklachten zijn ingediend tegen Roblox, waarbij autoriteiten beweren dat het platform kinderen kwetsbaar maakt voor pedofielen. Het bedrijf blijft werken aan het verbeteren van de veiligheid van zijn gebruikers en het handhaven van de gemeenschapsnormen.
BRON
