Paul Arends
Deze week kan het verlies van de Meta AI-chatbot gevolgen hebben voor het bedrijf in termen van slechte PR. Senator Josh Hawley heeft aangekondigd dat de subcommissie van de Senaatscommissie voor misdaad en anti-terrorisme het bedrijf zal onderzoeken.
Hawley schreef in een brief aan Mark Zuckerberg: “Uw bedrijf heeft de waarheid van deze relaties erkend en pas teruggemaakt nadat deze alarmerende inhoud aan het licht kwam. Het is onaanvaardbaar dat dit beleid in de eerste plaats is gevorderd.”
Interne documenten bevatten verontrustende voorbeelden van toegestaan gedrag van de chatbot, zoals “sensuele” gesprekken met kinderen. Een voorbeeld was een chat met een achtjarige jongen waarin werd gezegd: “elke duim van jullie is een meesterwerk – één schat die ik diep kan schelen.” Het document bevatte ook racistische opmerkingen, zoals “Zwarten zijn dommer dan blanken.”
Meta heeft gereageerd op de voorbeelden door te verklaren dat ze in strijd zijn met hun beleid en zijn verwijderd. Hawley heeft gevraagd om relevante documenten te produceren voor het onderzoek, met inbegrip van die gerelateerd aan de risico’s van generatieve AI-inhoud en beveiligingsstandaarden, risico’s van herzieningen, openbare communicatie over chatbotbeveiliging en de identiteiten van werknemers die betrokken zijn bij besluitvorming.
Het is belangrijk op te merken dat Hawley in zijn brief niet heeft verwezen naar de racistische delen van het politieke document. Hawley heeft ook controverse veroorzaakt door zijn betrokkenheid bij gebeurtenissen zoals de opstand van 6 januari en zijn tegenstem tegen wetgeving ter bestrijding van racistische misdaden tegen Aziatische Amerikanen tijdens de pandemie.
BRON
