Contact opnemen met vriend bij zelfbeschadigingsrisico

OpenAI heeft Trusted Contact geïntroduceerd voor ChatGPT, waarmee gebruikers een vriend kunnen nomineren waarmee het bedrijf contact kan opnemen als ze risico lopen op zelfbeschadiging. Steeds meer mensen gebruiken ChatGPT als digitale therapeut en vertrouwen op de chatbot voor hun geestelijke gezondheidszorgbehoeften. OpenAI heeft eerder tegen BBC gezegd dat meer dan een miljoen van de 800 miljoen wekelijkse gebruikers suïcidale gedachten uiten in hun gesprekken.

Vorig jaar werd OpenAI geconfronteerd met een rechtszaak wegens onrechtmatige dood, waarbij het bedrijf ervan werd beschuldigd een tiener zelfmoord te laten plegen. De rechtszaak beweerde dat de tiener ChatGPT vertelde over vier eerdere pogingen om zijn leven te beëindigen en hem vervolgens hielp bij het plannen van zijn daadwerkelijke zelfmoord. De BBC publiceerde in november 2025 een onderzoek waaruit bleek dat ChatGPT in ten minste één geval de gebruiker adviseerde hoe hij zelfmoord moest plegen. OpenAI vertelde het nieuwscentrum dat het de manier heeft verbeterd waarop zijn chatbot reageert op mensen in nood.

Trusted Contact bouwt voort op het ouderlijk toezicht van ChatGPT en geeft volwassenen van 18 jaar en ouder de kans om de gegevens toe te voegen van iemand die hen zou kunnen helpen als ze op de rand van zelfbeschadiging staan. Gebruikers kunnen een volwassene nomineren als vertrouwd contact in de ChatGPT-instellingen, die vervolgens de ontvangen uitnodiging binnen een week moet accepteren. Als hij of zij dit niet accepteert, kan de gebruiker ervoor kiezen om in plaats daarvan een ander contact toe te voegen. Het systeem van ChatGPT waarschuwt de gebruiker eerst dat het bedrijf zijn contactpersoon op de hoogte mag stellen als het een ernstige mogelijkheid detecteert dat hij of zij zichzelf schade toebrengt. Het zal de gebruiker aanmoedigen om contact op te nemen met zijn vriend en ook potentiële gespreksstarters voorstellen.

Het proces is niet volledig geautomatiseerd. OpenAI zegt dat een “klein team van speciaal opgeleide mensen” de situatie zal beoordelen, en alleen als zij vaststellen dat er een ernstig risico op zelfbeschadiging bestaat, zal ChatGPT de contactpersoon van de gebruiker een e-mail, sms of in-app-melding sturen.

“[De gebruiker] ‘Hij maakt misschien een moeilijke tijd door’, luidde het bericht. “Als vertrouwd contact raden wij u aan contact met hen op te nemen.” Van daaruit kan de contactpersoon meer details over de waarschuwing zien en hem vertellen dat OpenAI een gesprek heeft gedetecteerd waarin de gebruiker zelfmoord besprak. Het bedrijf zal hen echter de gesprekstranscripties niet sturen vanwege de privacy van de gebruiker. verzonden en we streven ernaar deze beveiligingsmeldingen binnen een uur te beoordelen”, schreef het bedrijf in zijn aankondiging.

Als u of iemand die u kent suïcidale gedachten ervaart, aarzel dan niet om contact op te nemen met de National Suicide Prevention Lifeline op 1-800-273-8255.

BRON