Paul Arends
OpenAI is het nieuwste bedrijf dat zich richt op leeftijdsgebonden toegangscontrole. De AI-industrie lanceert wereldwijd een tool voor leeftijdsvoorspelling om te bepalen of een gebruiker minderjarig is. Volgens de aankondiging van het bedrijf analyseert het model een combinatie van gedrags- en accountsignalen, zoals de duur van het account, de gebruikelijke actieve tijden, gebruikspatronen in de loop van de tijd en de zelfgerapporteerde leeftijd van de gebruiker. Indien een persoon onterecht als minderjarig wordt geïdentificeerd door ChatGPT, moet hij of zij een selfie indienen ter correctie van de fout via het Persona-leeftijdsverificatieplatform.
Veel AI-bedrijven introduceren eerst nieuwe functies en proberen vervolgens beveiligingsmaatregelen toe te voegen nadat er schade is aangericht. OpenAI was betrokken bij een rechtszaak wegens onrechtmatige dood tegen een tiener die naar verluidt ChatGPT gebruikte om zelfmoord te plannen. Pas in de daaropvolgende maanden begon het bedrijf na te denken over automatische inhoudsbeperkingen voor minderjarige gebruikers en richtte het een adviesraad voor geestelijke gezondheidszorg op. OpenAI bereidt zich nu voor op de lancering van een “modus voor volwassenen”, waarmee gebruikers NSFW-content kunnen maken en consumeren. Het is waarschijnlijk dat minderjarige gebruikers manieren zullen vinden om bestaande tools te omzeilen als ze ChatGPT als volwassenen willen gebruiken, vergelijkbaar met wat er is gebeurd op platforms zoals Roblox.
Het is belangrijk voor bedrijven zoals OpenAI om de veiligheid en privacy van gebruikers, vooral minderjarigen, te waarborgen bij het ontwikkelen en implementeren van nieuwe technologieën. Het is cruciaal dat er voldoende maatregelen worden genomen om de risico’s te minimaliseren en ervoor te zorgen dat de technologie op een verantwoorde manier wordt gebruikt. Het is een voortdurende uitdaging om de balans te vinden tussen innovatie en ethiek, maar met de juiste maatregelen en toezicht kan de AI-industrie een veilige en inclusieve omgeving creëren voor alle gebruikers.
BRON
