Paul Arends
De gouverneur van Illinois, JB Pritzker, heeft een wetsvoorstel ondertekend dat kunstmatige intelligentietherapie verbiedt in de staat. Illinois is daarmee de eerste staat die het gebruik van AI in de geestelijke gezondheidszorg reguleert. De wet stelt dat alleen geautoriseerde professionals adviesdiensten mogen aanbieden en verbiedt AI-chatbots of tools om op te treden als autonome therapeuten.
HB 1806, getiteld The Wellness and Superight for Psychological Resources Act, bepaalt ook dat geautoriseerde therapeuten AI niet mogen gebruiken voor “therapeutische beslissingen” of “therapeutische communicatie”. Het legt beperkingen op aan het gebruik van AI door professionals in de geestelijke gezondheidszorg, zoals het beperken van het gebruik ervan voor “extra ondersteuning” zoals afspraakbeheer, facturering of administratieve taken.
In een verklaring aan Mashable zei de vertegenwoordiger van Illinois, Bob Morgan: “We hebben al horrorverhalen gehoord van kunstmatige intelligentie die zich voordoet als geautoriseerde therapeuten. Mensen in crisis hebben onbedoeld hun toevlucht genomen tot AI voor hulp en zijn geduwd naar gevaarlijk, zelfs dodelijk gedrag.” De wet stelt stevige boetes vast om deze resultaten tegen te gaan, met bedrijven of personen die $10.000 aan boetes riskeren voor overtredingen.
“Deze wetgeving toont onze toewijding om onze inwoners te beschermen, zodat zorg wordt verleend door getrainde experts die de zorg voor patiënten boven alles stellen,” aldus Mario Treto Jr., secretaris van de afdeling financiële en professionele regulering van Illinois.
Het wetsvoorstel werd unaniem goedgekeurd door zowel de Kamer van Illinois als de Senaat, wat duidt op brede tweedelige steun. Deze wetgeving is bijzonder opmerkelijk gezien het AI-plan dat recentelijk door de Trump-administratie is onthuld, waarin een 10-jarig moratorium op elke regulering op staatsniveau wordt voorgesteld. Ook komt het op een moment dat Openii heeft aangekondigd dat het de capaciteit van zijn modellen verbetert om mentaal of emotioneel ongemak te detecteren en gebruikers zal vragen om een pauze te nemen tijdens ongewoon lange chatgesprekken.
BRON
