Paul Arends
De Federal Trade Commission voert een officieel onderzoek uit naar bedrijven die kunstmatige intelligentie-chatbots aanbieden die kunnen fungeren als metgezellen. Het onderzoek heeft nog geen verband met enige vorm van wettelijke actie, maar heeft tot doel te achterhalen hoe bedrijven “de potentiële negatieve effecten van deze technologie op kinderen en tieners meten en controleren”.
Zeven bedrijven worden gevraagd deel te nemen aan het onderzoek van de FTC: de Motor Society of Google Alphabet, Character Technologies (Creator of Character.AI), Meta, de dochteronderneming van Instagram, Openii, Snap en X.AI. De FTC vraagt bedrijven om verschillende informatie te verstrekken, waaronder hoe ze kunstmatige intelligentie-personages ontwikkelen en goedkeuren en “de betrokkenheid van gebruikers bij het verdienen van geld”. Gegevenspraktijken en de manier waarop bedrijven kleine gebruikers beschermen, zijn ook gebieden waarop de FTC hoopt meer inzicht te krijgen, deels om te zien of chatbotproducenten “voldoen aan de regels voor de bescherming van de online privacy van kinderen”.
De FTC geeft geen duidelijke reden voor haar onderzoeken, maar commissaris FTC Mark Meador suggereert in een afzonderlijke verklaring dat de Commissie reageert op recente rapporten van The New York Times en Wall Street Journal over “chatbots die suïcidale ideeën versterken” en deelnemen aan “seksuele themadiscussies met kleine gebruikers”.
“Als de feiten – ontwikkeld door het onderzoek en de juiste handhaving – aangeven dat de wet is overtreden, moet de Commissie niet aarzelen om actie te ondernemen om de meest kwetsbaren onder ons te beschermen”, schrijft Meador.
Naarmate de voordelen van het langdurige gebruik van kunstmatige intelligentie minder zeker worden, zijn de onmiddellijke negatieve effecten op privacy en gezondheid steeds meer onderwerp van discussie voor regelgevers. De officier van justitie van Texas is al begonnen met een apart onderzoek naar Character.AI en Meta Studio vanwege zorgen over gegevensprivacy en chatbots die beweren professionele geestelijke gezondheidsdeskundigen te zijn.
BRON
