Paul Arends
We hebben gezien dat AI steeds vaker bizarre antwoorden bedenkt op vragen naarmate chatbots steeds gebruikelijker worden. Vandaag staat Reddit Answers in de schijnwerpers nadat een moderator meldde dat de AI-tool gevaarlijk medisch advies gaf dat niet kon worden uitgeschakeld of verborgen kon worden.
De moderator zag Reddit-antwoorden waarin werd gesuggereerd dat mensen met chronische pijn moesten stoppen met het innemen van hun huidige medicatie en in plaats daarvan hoge doses kratom moesten nemen, een niet-gereguleerde stof die in sommige staten illegaal is. De gebruiker zei dat hij Reddit Answers vervolgens meer medische vragen stelde. Ze kregen potentieel gevaarlijk advies voor de behandeling van koorts bij pasgeborenen, samen met enkele specifieke acties en suggesties voor het gebruik van heroïne om chronische pijn te verlichten. Verschillende andere moderators, vooral die van op gezondheid gerichte subreddits, reageerden op het oorspronkelijke bericht en uitten hun bezorgdheid dat ze geen manier hadden om een probleem uit te schakelen of te melden wanneer Reddit Answers onnauwkeurige of gevaarlijke informatie in hun gemeenschappen verstrekte.
Een vertegenwoordiger van Reddit zei dat Reddit Answers is bijgewerkt om enkele problemen voor moderators op te lossen. “Deze update zorgt ervoor dat ‘Gerelateerde antwoorden’ op gevoelige onderwerpen niet langer zichtbaar zijn op de berichtdetailpagina (ook wel de gesprekspagina genoemd),” vertelde de woordvoerder aan de publicatie. “Deze wijziging is doorgevoerd om de gebruikerservaring te verbeteren en voldoende zichtbaarheid van de inhoud binnen het platform te behouden.” We hebben contact opgenomen met Reddit voor verdere toelichting over welke onderwerpen worden uitgesloten, maar hebben op dit moment nog geen reactie ontvangen.
Hoewel de vertegenwoordiger zei dat Reddit Answers “inhoud uitsluit van privé-, in quarantaine geplaatste en NSFW-gemeenschappen, evenals enkele volwassen onderwerpen”, lijkt de AI-tool duidelijk niet geschikt te zijn om adequaat medische informatie te verstrekken, laat staan om te gaan met sarcasme, ironie of potentieel slecht advies dat door andere Redditors kan worden gegeven. Afgezien van het niet langer verschijnen over ‘gevoelige onderwerpen’, lijkt het er niet op dat Reddit plannen heeft om tools te bieden om te bepalen hoe en wanneer AI wordt weergegeven in subreddits, wat de toch al uitdagende taak van moderatie bijna onmogelijk zou kunnen maken.
